De nieuwste drei­ging voor orga­ni­sa­ties komt niet van de mens, maar van de algo­ritmes die ze inzetten. Anders dan AI-systemen die vooral infor­matie gene­reren of aanbe­ve­lingen doen, kunnen AI-agents zelf­standig acties uitvoeren in bedrijfs­ap­pli­ca­ties. Zonder scherp toezicht en speci­fieke bevei­li­ging leiden fouten of misbruik direct tot data­lekken en opera­ti­o­nele versto­ringen. Orange Cyber­de­fense waar­schuwt dan ook dat de snelle opkomst van AI-agents een nieuwe ‘insider threat’ creëert.

AI-agents kunnen orga­ni­sa­ties veel werk uit handen nemen door auto­noom infor­matie op te halen, te combi­neren en taken uit te voeren. De bevei­li­ging van deze systemen loopt echter vaak achter op de snel­heid van de imple­men­tatie. Orange Cyber­de­fense iden­ti­fi­ceert vier nieuwe risico’s:

1. Ongecontroleerde toegang tot systemen

AI-agents hebben vaak toegang tot meer infor­matie dan strikt nodig is voor het uitvoeren van hun taken. Ze maken daarbij geen onder­scheid tussen rele­vante data en gevoe­lige infor­matie die niet voor de speci­fieke taak bedoeld is. Waar een mede­werker zich nog afvraagt of het verstandig is om sala­ris­ge­ge­vens te mailen naar de marke­ting­af­de­ling, mist een AI-agent dit morele kompas. Hier­door kan bedrijfs­ge­voe­lige infor­matie onbe­doeld worden verwerkt of gedeeld.

2. Verkeerde of misleidende input

Waar een mede­werker kriti­sche vragen kan stellen bij een ‘vreemde opdracht’, handelt een agent blin­de­lings op basis van de infor­matie die hij ontvangt (e‑mails, docu­menten, queries). Als deze input onvol­ledig of kwaad­aardig is, kan de agent besluiten om extra data op te halen, veilig­heids­pro­to­collen te omzeilen of data op de verkeerde plek te publi­ceren. De agent wordt in feite ‘verkeerd aange­stuurd’ door de data zelf.

3. Autonome kettingreactie van fouten

AI-agents werken met een snel­heid die mense­lijke controle lastig maakt. Daar­door kan een fout in een vroege stap onge­merkt door­werken in een keten van auto­nome acties en zich ontwik­kelen tot een groter inci­dent.

4. Onmogelijkheid tot reconstructie

Bij een mense­lijke insider is door­gaans te achter­halen waarom een bepaalde beslis­sing is genomen. Bij AI-agents is die logica vaak minder trans­pa­rant en moei­lijker te recon­stru­eren. Daar­door zijn inci­denten moei­lijker te onder­zoeken en is het lastiger om te bepalen waar het misging en hoe een orga­ni­satie dit in de toekomst voor­komt.

Bestaande securityprincipes consequenter toepassen

Volgens Matthijs van der Wel-ter Weel, Stra­tegic Advisor bij Orange Cyber­de­fense, vraagt de inzet van AI-agents niet om compleet nieuwe secu­ri­ty­prin­cipes. Wel vraagt het om een veel conse­quen­tere toepas­sing van bestaande prin­cipes zoals least privi­lege, zero trust, logging en moni­to­ring, aange­vuld met duide­lijke en onaf­han­ke­lijke vang­rails.

“Waar orga­ni­sa­ties voor mede­wer­kers en tradi­ti­o­nele systemen vaak al duide­lijke kaders hebben, gebeurt de inzet van AI-agents in de prak­tijk nog te vaak ad hoc. Juist daar ontstaat risico.” Van der Wel-ter Weel geeft deze drie aandachts­punten als belang­rijk aan:

• Geef iedere AI-agent een duide­lijke iden­ti­teit, rol en afba­ke­ning

Orga­ni­sa­ties werken al langer met uitgangs­punten als least privi­lege, zero trust en duide­lijke taak­af­ba­ke­ning: geef mensen en systemen alleen toegang tot wat nodig is, onder de juiste voor­waarden en voor een duide­lijk doel. Een AI-agent vormt daarop in wezen geen uitzon­de­ring.

Deze prin­cipes worden bij AI-agents in de prak­tijk nog niet altijd even conse­quent toege­past. Orga­ni­sa­ties expe­ri­men­teren vaak snel met nieuwe agent­func­ti­o­na­li­teit, zonder scherp vast te leggen welke taak een agent precies heeft, welke data daar­voor nodig zijn en binnen welke grenzen die mag handelen. Daar­door ontstaat het risico dat een agent meer toegang of hande­lings­ruimte krijgt dan nodig is.

• Zorg dat beslis­singen van AI-agents herleid­baar zijn

Voor AI-agents is het niet genoeg om alleen vast te leggen welke acties zijn uitge­voerd. In veel orga­ni­sa­ties regi­streren logging- en SIEM-systemen al wat een systeem doet, maar daarmee is nog niet duide­lijk waarom een agent tot een bepaalde actie of beslis­sing kwam.

Juist dat maakt AI-agents risi­co­voller. Wanneer een agent gevoe­lige infor­matie deelt of op basis van verkeerde input een fout besluit neemt, moet een bedrijf kunnen recon­stru­eren welke input, bronnen en context daarbij een rol speelden.

Dat vraagt om meer dan tradi­ti­o­nele logging. Niet alleen de uitge­voerde actie moet zicht­baar zijn, maar ook de afwe­ging daar­achter. Alleen met dat niveau van herleid­baar­heid kunnen orga­ni­sa­ties inci­denten goed onder­zoeken, verant­woor­de­lijk­heid vast­stellen en maat­re­gelen nemen om dezelfde fout niet opnieuw te laten ontstaan.

• Richt waar nodig real­time controle en mense­lijke tussen­komst in

Omdat AI-agents auto­noom en op hoge snel­heid handelen, is vooraf bepalen wat zij mogen doen niet altijd voldoende. Orga­ni­sa­ties moeten daarom ook tijdens de uitvoe­ring grenzen kunnen stellen aan acties met een grote impact op de operatie, de finan­ciën of compli­ance.

Denk bijvoor­beeld aan het delen van gevoe­lige infor­matie, het aanpassen van rechten, het wijzigen van systemen of het starten van externe commu­ni­catie. Voor dit soort hande­lingen moet duide­lijk zijn wanneer een extra controle, goed­keu­ring of mense­lijke tussen­komst nodig is.

De vraag is niet alleen of een agent toegang heeft, maar ook of een actie op dat moment verant­woord is. Zo voorkom je dat een AI-agent binnen zijn rechten tóch schade veroor­zaakt.

“Veel orga­ni­sa­ties expe­ri­men­teren al met AI-agents, maar hebben nog onvol­doende zicht op hun rechten, hun gedrag en hun impact”, zegt Van der Wel-ter Weel. “Het risico is dat bedrijven deze systemen niet alleen te snel invoeren, maar ook dat ze deze zonder duide­lijke afba­ke­ning, toezicht en verant­woor­ding inzetten. Zo kan AI-agent-sprawl ontstaan: een wild­groei aan agents zonder centraal over­zicht, duide­lijke grenzen of eige­naar­schap.”

Van der Wel-ter Weel roept orga­ni­sa­ties op om nu beleid te ontwik­kelen voor de inzet van AI-agents, inclu­sief trai­ning, bewust­wor­ding, gover­nance en een centraal over­zicht van de toepas­singen, verant­woor­de­lijk­heden en risico’s. Dat beleid moet verder­gaan dan tech­niek alleen: het raakt ook ethiek, compli­ance en leider­schap. “Wie bestaande secu­rity- en gover­nan­ce­prin­cipes nu ook conse­quent toepast op AI-agents, voor­komt dat snel­heid en gemak de over­hand krijgen op controle.”