Orga­ni­sa­ties zetten AI-agents in voor steeds kriti­scher processen, van finan­ciële afslui­ting tot inkoop en HR. Maar hoe stel je vast wat er is misge­gaan als een agent een verkeerde beslis­sing neemt, en hoe herstel je dat? Volgens Jona­than von Rueden, Head of AI Inno­va­tion & Data bij SAP, begint verant­woord gebruik van agentic AI bij één voor­waarde: volle­dige traceer­baar­heid op elk niveau.

“Het is net als bij klas­sieke SAP-systemen”, zegt Von Rueden. “Daar wordt altijd bijge­houden wie wat heeft gedaan en is elke stap traceer­baar voor audi­tors en finan­ciële teams. Diezelfde behoefte aan controle en trans­pa­rantie ontstaat nu ook rond AI-agents. Als er iets misgaat, wil je kunnen terug­zien wat er is gebeurd, waarom bepaalde keuzes zijn gemaakt en waar mense­lijke controle nodig blijft.”

Van businessgebruiker tot logbestand

De opkomst van AI-agents verschuift de uitda­ging voor orga­ni­sa­ties van expe­ri­men­teren naar beheersen. Zodra agents onder­deel worden van finan­ciële, opera­ti­o­nele of HR-processen, ontstaat behoefte aan gover­nance, trans­pa­rantie en controle op orga­ni­sa­tie­ni­veau. Tijdens Sapphire 2026 lichtte SAP toe hoe een meer­laagse gover­nance-struc­tuur binnen zijn Auto­no­mous Suite kan inspelen op de verschil­lende behoeften binnen een orga­ni­satie.

Die struc­tuur werkt op drie niveaus, elk gericht op een andere gebruiker. Op het eerste niveau ziet de zake­lijke gebruiker welke agents actief zijn, in welke proces­stap zij zich bevinden en wat de rede­ne­ring achter een beslis­sing was, inclu­sief de bronnen waarop die rede­ne­ring is geba­seerd. Zo kan iemand zonder tech­ni­sche achter­grond toch precies volgen wat een agent heeft gedaan en waarom.

Op het tweede niveau biedt de SAP Agent Hub een over­zicht van agents binnen een orga­ni­satie, inclu­sief agents van derden zoals Servi­ceNow, Micro­soft, Data­bricks en AWS. IT- en compli­an­ce­teams zien daar hoeveel keer een agent is uitge­voerd, waar runs zijn mislukt en waar een eind­ge­bruiker een goed­keu­ring heeft gewei­gerd. Dat geeft grip op het geheel, niet alleen op indi­vi­duele agent-runs.

Op het derde niveau is volle­dige log-level tracing beschik­baar voor wie nog dieper wil gaan: elke tool die een agent heeft gekozen en elke rede­ne­ring die daaraan ten grond­slag lag, is stap voor stap te recon­stru­eren.

“Je kunt het hele­maal terug­voeren. Elke tool die is gekozen, en waarom, is traceer­baar”, aldus Von Rueden. “Veel AI-toepas­singen zijn vandaag nog rela­tief geïso­leerd inge­richt. Maar naar­mate orga­ni­sa­ties opschalen van een handvol agents naar honderden of duizenden, hebben zij behoefte aan breder inzicht in hoe agents processen beïn­vloeden, en hoe gebrui­kers en systemen met elkaar samen­hangen. Zodra AI-agents onder­deel worden van kritieke processen, draait gover­nance niet alleen om indi­vi­duele acties, maar ook om inzicht in de onder­linge afhan­ke­lijk­heden tussen processen, systemen en gebrui­kers.” Volgens Von Rueden vraagt die complexi­teit dus om een aanpak waarbij niet alleen indi­vi­duele agents, maar complete bedrijfs­pro­cessen inzich­te­lijk blijven.

Grenzen stellen als vertrekpunt

Gover­nance begint volgens Von Rueden niet bij het terug­kijken, maar bij het vooraf bepalen wat een agent wel en niet mag. Hij advi­seert orga­ni­sa­ties om agents bewust een beperkt mandaat te geven en dat mandaat staps­ge­wijs uit te breiden naar­mate het vertrouwen groeit.

Een prak­tisch voor­beeld: stel een drem­pel­waarde in waarbij een agent zelf­standig beslis­singen mag nemen over facturen onder de vijftig euro, maar daar­boven altijd mense­lijke goed­keu­ring vereist. “Het is een accep­tabel bedrijfs­ri­sico dat AI een beslis­sing neemt over een factuur van twintig euro, omdat de verwer­kings­kosten anders hoger zijn dan de controle zelf. Maar zodra bedragen oplopen, wil je dat een mens meekijkt”, aldus Von Rueden.

Volgens hem vormt juist die combi­natie van tech­ni­sche traceer­baar­heid, mense­lijke controle en vooraf inge­stelde grenzen de basis voor orga­ni­sa­ties die AI-agents verant­woord willen inzetten op schaal.

Van governance naar vertrouwen

Naast gover­nance stond tijdens Sapphire 2026 ook de rol van gebrui­kers­in­ter­actie centraal. In dat kader lichtte SAP Joule Work toe, een nieuwe gebrui­ker­slaag bovenop de Auto­no­mous Suite. In plaats van navi­geren door schermen en menu’s, beschrijven mede­wer­kers in natuur­lijke taal wat ze willen bereiken. Joule Work roept vervol­gens de juiste combi­natie van agents, work­flows en data aan om de taak uit te voeren, op desktop, mobiel en via spraak, zowel binnen als buiten SAP-systemen.

“De verwach­ting van gebrui­kers veran­dert snel”, zegt Von Rueden. “Mensen willen processen steeds minder bena­deren via losse appli­ca­ties of complexe inter­faces, maar direct vanuit een taak of vraag. AI-agents maken die verschui­ving moge­lijk.”