Discussies over cybersecurity en AI draaien vaak om bekende risico’s zoals datalekken, kwetsbaarheden in modellen en te ruime toegangsrechten. Hoewel deze belangrijk blijven, verhullen ze een deel van de realiteit: de meeste securitymaatregelen zijn namelijk ontworpen op basis van menselijk gedrag, terwijl AI-​agents fundamenteel anders opereren.

AI-​agents kunnen enorme datasets verwerken, met elkaar communiceren via verschillende systemen en autonoom handelen met een snelheid die mensen niet kunnen evenaren. Daarbij leggen ze aannames en systemische zwakheden in de security en governance van data bloot die een menselijke gebruiker wellicht nooit zou tegenkomen, of misbruiken.

Veilig AI-​agents ondersteunen

Zorgen over de security beïnvloeden nu al hoe organisaties zich voorbereiden op AI en hoe ze deze technologie verder willen gaan implementeren. Hoewel 77% van de organisaties actief AI gebruikt, heeft bijna iedereen (95%) AI-​initiatieven het afgelopen jaar uitgesteld of geannuleerd, door uitdagingen op het gebied van databeheer, compliance of regelgeving, blijkt uit het onderzoek The Great AI Re-​Architecture van Cloudera. Naarmate AI-​agents meer geïntegreerd raken binnen de organisatie, moet men verder kijken dan het uitbreiden van bestaande controles en de security-​architectuur herzien om veilig autonoom agentgedrag te kunnen ondersteunen.

De wereldwijde Cybersecurity Awareness Month en ook de Nederlandse Cybersecurity Week herinneren ons op het juiste moment aan deze toenemende noodzaak. Organisaties in elke markt doen er namelijk verstandig aan te onderzoeken of het securitybeleid waarop ze al decennialang vertrouwen, nog standhoudt als de entiteit die toegang heeft tot hun data niet langer een mens is. AI-​agents zijn de laatste tijd zowel het speelveld als de spelregels onomkeerbaar aan het veranderen.

Traditioneel toegangsbeheer schiet tekort

Traditioneel identiteits- en toegangsbeheer richt zich op het verifiëren van de toegang tot bepaalde systemen en data. Met de opkomst van AI-​agents schiet dit model echter tekort. Zelfs als een agent alleen toegang krijgt tot een enkele afgebakende omgeving, moeten securityteams de potentiële impact ervan beoordelen. Met andere woorden, het bredere netwerk van systemen en data dat de agent kan bereiken als er gelekte inloggegevens, een onopgeloste kwetsbaarheid, of een mogelijkheid tot laterale verplaatsing worden ontdekt.

Dit verandert de manier waarop men denkt over het beleid voor minimale bevoegdheden, dat de rechten van gebruikers beperkt tot de minimaal noodzakelijke. Organisaties moeten verder denken dan alleen het implementeren van beleid voor initiële toegang en overwegen hoe ze de potentiële gevolgen van onverwacht agentgedrag kunnen beperken. Dit vereist gelaagde controles zoals netwerksegmentatie, sandboxing en afgebakende API-​rechten. AI-​agents moeten ook tijdelijke identiteiten krijgen, waarbij verhoogde bevoegdheden alleen worden verleend voor de duur van een subtaak en direct na voltooiing worden ingetrokken.

Het inperken van toegangsrechten lost echter maar een deel van het probleem en mogelijke gevolgen op. Zelfs als een AI-​agent strikt binnen de geautoriseerde kaders en toegewezen rechten opereert, kan deze nog steeds onverwachte risico’s met zich meebrengen. Daarom is continue validatie van de realtime acties van een AI-​agent net zo cruciaal als het reguleren van de initiële toegangsrechten.

Zero Trust letterlijk interpreteren

Zero Trust is niet nieuw, maar bij het gebruik van AI-​agents breidt de behoefte aan continue verificatie uit. Het principe van ‘nooit vertrouwen, altijd verifiëren’ kan namelijk niet langer alleen van toepassing zijn op gebruikers, apparaten en netwerken. Het moet ook rekening houden met de data, modellen, workloads en autonome agents die ermee werken.

Een AI-​agent kan volledig binnen zijn toegewezen kader opereren en toch een onverwachte of ongeautoriseerde reeks acties uitvoeren, omdat AI-​systemen niet-​deterministisch zijn. Zero Trust voor AI mag daarom niet stoppen na de initiële toegangsverificatie. Het vereist realtime monitoring van alle acties van een agent nadat toegang is verleend. Die monitoring moet worden ondersteund door geautomatiseerde securitymechanismen en menselijke tussenkomst, om te kunnen ingrijpen zodra het agentgedrag afwijkt van het beoogde doel.

Om effectief te zijn in het AI-​tijdperk, moet Zero Trust uniform te gebruiken zijn. Bedrijfsdata bevindt zich steeds vaker in on-​premises infrastructuur en private en publieke clouds. Toegangscontroles, governancebeleid en monitoringstandaarden moeten daarom de data, modellen en workloads in al deze omgevingen volgen, zodat elke interactie consistent wordt beheerd, ongeacht waar deze plaatsvindt. Dit is vooral belangrijk omdat de locatie waar een organisatie AI uitvoert, de blootstelling aan bepaalde risico’s beïnvloedt. De gekozen infrastructuur alleen biedt echter nog geen garantie voor een goed securitymodel.

Private AI verandert het risico, niet de securitybehoefte

Organisaties erkennen de risico’s die verbonden zijn aan endpoints in de publieke cloud en verplaatsen daarom AI-​workloads naar infrastructuur die ze zelf kunnen beheren. Uit het al eerder genoemde onderzoek blijkt dat veel respondenten een deel van hun AI-​workloads van de publieke cloud terug verplaatst naar een private cloud, of een on-​premises IT-​omgeving.

Door AI toe te passen op de data zelf, in plaats van gevoelige data te exporteren naar externe partijen, is de blootstelling van een organisatie aan publieke cloud-​endpoints aanzienlijk te verminderen en kan men de soevereine controle over eigen data versterken. Dit maakt het ook gemakkelijker om security en governance dichter bij de data zelf toe te passen. Security reikt echter verder dan de onderliggende data. Modellen, prompts en outputs kunnen zelf gevoelige informatie bevatten of onthullen, waardoor consistente governance tijdens de hele AI-​levenscyclus essentieel is. Infrastructuurbeheer staat niet gelijk aan volledige beveiliging.

Risico’s voor dreigingen, verkeerde configuraties, gecompromitteerde inloggegevens of onverwacht gedrag van agents blijven bestaan als organisaties AI in een private of soevereine omgeving inzetten. Sterker nog, het dichter bij gevoelige data brengen van computerkracht legt een grotere verantwoordelijkheid bij de organisatie om die omgeving te beveiligen, te monitoren en te beheren. Private AI verandert de risicovergelijking, maar elimineert deze niet. Organisaties moeten helder blijven zien welke risico’s en verantwoordelijkheden ze op zich nemen. Ongeacht waar AI wordt ingezet, blijven de zichtbaarheid en governance essentieel.

Security afstemmen op AI-​agents en data

De fundamentele principes van cyberbeveiliging blijven onveranderd in het AI-​tijdperk, maar de entiteit die gebruik maakt van bedrijfseigen data is fundamenteel veranderd. Een AI-​agent is niet zomaar een snellere werknemer. Het is een autonome software-​entiteit die in staat is enorme hoeveelheden data te verwerken en razendsnel te handelen in verschillende systemen en omgevingen.

Het beveiligen van die nieuwe realiteit vereist meer dan alleen controleren wie of wat er door de voordeur komt. Bedrijven moeten de potentiële impact van een agent beperken, het gedrag ervan continu valideren en zowel beveiliging als governance toepassen op de data waarmee de agent interacteert, ongeacht waar die data zich bevindt. Of AI nu in de publieke cloud, een private omgeving of een combinatie van beide draait, die controlemechanismen mogen niet verdwijnen bij de grenzen van de infrastructuur.

Cybersecurity Awareness Month is een uitstekend moment om een principe te benadrukken dat veel verder reikt dan oktober. Beveiliging moet meegroeien met de technologieën die het moet beschermen. Naarmate bedrijven AI-​agenten meer autonomie en verantwoordelijkheid geven, zal cyberweerbaarheid steeds meer afhangen van de aanname dat die agenten binnen de gestelde kaders blijven. Maar ook van het hebben van inzicht en controlemechanismen om te monitoren, in te dammen en te controleren wat er gebeurt als ze dat niet doen.

Door: Carolyn Duby, Field CTO en Cybersecurity Lead, Cloudera