De grootste privacyrisico’s ontstaan over enkele jaren waar­schijn­lijk niet meer door gestolen klan­ten­da­ta­bases, verkeerd geadres­seerde e‑mails of open­baar gemaakte persoons­ge­ge­vens. Volgens Gartner zal in 2029 het meren­deel van de privacy-inci­denten voort­komen uit conclu­sies die kunst­ma­tige intel­li­gentie over mensen trekt.

Daarmee verschuift het priva­cy­vraag­stuk van de bescher­ming van gege­vens naar de bescher­ming tegen inzichten. Een AI-systeem hoeft immers niet nood­za­ke­lijk toegang te hebben tot een medisch dossier, perso­neels­be­stand of over­zicht van iemands finan­ciële trans­ac­ties om toch gevoe­lige infor­matie over die persoon af te leiden.

Op basis van ogen­schijn­lijk onschul­dige gege­vens kan AI bijvoor­beeld inschat­tingen maken over iemands gezond­heid, gedrag, inte­resses, finan­ciële positie of persoon­lijke omstan­dig­heden. Die conclu­sies kunnen vervol­gens worden gebruikt bij besluit­vor­ming, profi­le­ring of gerichte aanvallen.

“Er vindt een funda­men­tele verschui­ving plaats van bloot­stel­ling van gege­vens naar bloot­stel­ling van inzichten”, zegt Bart Willemsen, vice­pre­si­dent en analist bij Gartner. Orga­ni­sa­ties hebben zich volgens hem tradi­ti­o­neel vooral gericht op het beschermen van ruwe persoons­ge­ge­vens. AI kan echter zeer persoon­lijke inzichten recon­stru­eren zonder dat tradi­ti­o­nele bevei­li­gings­maat­re­gelen worden door­broken.

Gevoelige conclusies uit onschuldige gegevens

De opkomst van gene­ra­tieve AI en machine learning maakt het steeds eenvou­diger om patronen te herkennen in grote hoeveel­heden gege­vens. Daarbij kunnen ook gege­vens worden gecom­bi­neerd die afzon­der­lijk weinig gevoelig lijken.

Denk bijvoor­beeld aan loca­tie­ge­ge­vens, zoek­ge­drag, aankoop­ge­schie­denis, infor­matie over ener­gie­ver­bruik, acti­vi­teit op sociale media of het moment waarop iemand bepaalde digi­tale dien­sten gebruikt. Een indi­vi­dueel data­punt zegt vaak weinig. Wanneer AI al deze signalen combi­neert, kunnen echter gede­tail­leerde profielen ontstaan.

Zelfs geano­ni­mi­seerde of geag­gre­geerde data­sets bieden niet altijd voldoende bescher­ming. AI-modellen kunnen verbanden ontdekken waarmee personen opnieuw herken­baar worden of waarmee gevoe­lige eigen­schappen aan bepaalde groepen en indi­vi­duen worden toege­schreven.

Volgens Gartner krijgen kwaad­wil­lenden hier­door nieuwe moge­lijk­heden. Orga­ni­sa­ties proberen onder invloed van regel­ge­ving en kosten­be­spa­ringen welis­waar minder persoons­ge­ge­vens op te slaan, maar aanval­lers hebben niet altijd meer een volledig klant- of perso­neels­be­stand nodig. Zij kunnen AI gebruiken om ontbre­kende infor­matie zelf af te leiden.

Een aanvaller kan bijvoor­beeld proberen te voor­spellen welke mede­wer­kers finan­ciële problemen hebben, wie waar­schijn­lijk op zoek is naar ander werk of welke personen moge­lijk gevoelig zijn voor een bepaalde vorm van sociale mani­pu­latie. Zulke infor­matie kan worden ingezet voor phis­hing, afper­sing, iden­ti­teits­fraude of gerichte desin­for­matie.

Traditionele beveiliging schiet tekort

Infe­rence attacks, waarbij gevoe­lige infor­matie uit andere gege­vens wordt afge­leid, zijn volgens Gartner bijzonder gevaar­lijk omdat ze vaak buiten het bereik van conven­ti­o­nele detec­tie­sys­temen vallen.

Een bevei­li­gings­sys­teem kan vast­stellen dat iemand zonder toestem­ming een data­base heeft geopend of persoons­ge­ge­vens heeft gedown­load. Het is veel moei­lijker om te herkennen dat een AI-model op basis van toege­stane gege­vens een onge­wenste conclusie heeft gepro­du­ceerd.

Er is dan moge­lijk geen sprake van een datalek in de tradi­ti­o­nele bete­kenis. De onder­lig­gende gege­vens zijn correct opge­slagen, de toegangs­rechten zijn niet over­treden en er is geen bestand geko­pi­eerd. Toch kan het resul­taat scha­de­lijk zijn voor de betrokken persoon.

Daar komt bij dat AI-infe­ren­ties niet altijd juist zijn. Een model kan iemand ten onrechte aanmerken als frau­de­ge­voelig, finan­cieel kwets­baar, onge­zond of onbe­trouw­baar. Wanneer orga­ni­sa­ties derge­lijke conclu­sies zonder voldoende controle gebruiken, ontstaan niet alleen priva­cy­pro­blemen, maar ook risico’s rond discri­mi­natie, repu­ta­tie­schade en onjuiste besluit­vor­ming.

Gartner verwacht daarom dat inves­te­ringen in de bescher­ming van data-inte­gri­teit in 2028 onge­veer even groot zullen zijn als inves­te­ringen in vertrou­we­lijk­heid. Orga­ni­sa­ties zullen niet alleen moeten voor­komen dat gege­vens in verkeerde handen vallen, maar ook moeten contro­leren of AI-profielen correct, gerecht­vaar­digd en toege­staan zijn.

Privacybeleid moet ook AI-inferenties omvatten

De ontwik­ke­ling dwingt chief infor­ma­tion secu­rity offi­cers, priva­cy­func­ti­o­na­rissen en andere verant­woor­de­lijken om hun beleid te verbreden. Privacy kan niet langer uitslui­tend worden behan­deld als een kwestie van gege­vens­op­slag, toegangs­be­heer en versleu­te­ling.

Orga­ni­sa­ties moeten ook vast­leggen welke conclu­sies AI-systemen wel en niet over personen mogen trekken. Daar­naast moet duide­lijk zijn voor welke doel­einden zulke infe­ren­ties gebruikt mogen worden en wanneer mense­lijke controle nood­za­ke­lijk is.

Gartner advi­seert orga­ni­sa­ties daarom AI-gover­nance recht­streeks in bestaande privacyprogramma’s op te nemen. Privacy-by-design moet niet alleen worden toege­past op data­bases en appli­ca­ties, maar ook op de ontwik­ke­ling, trai­ning en invoe­ring van AI-modellen.

Daarbij moeten orga­ni­sa­ties regel­matig onder­zoeken of algo­ritmen onge­wenste verbanden leggen, bepaalde groepen syste­ma­tisch bena­delen of infor­matie afleiden die niet nodig is voor het doel waar­voor het systeem wordt gebruikt. Ook over­fit­ting verdient aandacht. Hierbij sluit een model te nauw aan op trai­nings­data, waar­door het onbe­doeld infor­matie over indi­vi­duele personen kan onthullen.

Privacybeschermende technologieën

Tech­ni­sche maat­re­gelen blijven even­eens nood­za­ke­lijk. Gartner noemt onder meer diffe­ren­tial privacy, synthe­ti­sche data en priva­cy­be­wuste machine learning.

Diffe­ren­tial privacy voegt gecon­tro­leerde ruis toe aan data­sets of model­uit­kom­sten. Hier­door blijven alge­mene patronen bruik­baar, terwijl het moei­lijker wordt om infor­matie over indi­vi­duele personen terug te halen.

Synthe­ti­sche data bestaat uit kunst­matig gege­ne­reerde gege­vens die dezelfde statis­ti­sche kenmerken kunnen hebben als echte infor­matie, maar niet recht­streeks naar bestaande personen verwijzen. Dit kan orga­ni­sa­ties helpen om AI-systemen te testen of trainen zonder voort­du­rend gevoe­lige persoons­ge­ge­vens te gebruiken.

Derge­lijke tech­nieken bieden echter geen auto­ma­ti­sche garantie op privacy. Ook synthe­ti­sche data­sets kunnen eigen­schappen van de oorspron­ke­lijke gege­vens over­nemen. Daarom blijven risi­co­ana­lyses, tests en controles nood­za­ke­lijk.

Minder data blijft belangrijk

Hoewel het priva­cy­pro­bleem verschuift naar AI-infe­ren­ties, blijft data­mi­ni­ma­li­satie volgens Gartner een belang­rijke verde­di­gings­linie. Orga­ni­sa­ties moeten alleen gege­vens verza­melen die daad­wer­ke­lijk nodig zijn en infor­matie verwij­deren zodra deze geen duide­lijk zake­lijk of wette­lijk doel meer heeft.

Hoe meer gege­vens beschik­baar zijn, hoe meer aankno­pings­punten een AI-systeem heeft om aanvul­lende conclu­sies te trekken. Dat geldt ook voor histo­ri­sche infor­matie die oorspron­ke­lijk voor een ander doel is verza­meld.

Strikte toegangs­con­troles en duide­lijke bewaar­ter­mijnen verkleinen daarom niet alleen de impact van een tradi­ti­o­neel datalek, maar beperken ook de moge­lijk­heden voor infe­rence attacks.

Tege­lij­ker­tijd moeten bevei­li­gings­teams hun moni­to­ring aanpassen. Zij moeten niet alleen letten op onge­brui­ke­lijke down­loads of toegangs­po­gingen, maar ook op afwij­kend gebruik van AI-modellen, onver­wachte combi­na­ties van data­sets en grote aantallen profiel­vragen.

Menselijke controle bij gevoelige besluiten

Tot slot pleit Gartner voor meer trans­pa­rantie en mense­lijke controle. Orga­ni­sa­ties moeten docu­men­teren welke infe­ren­ties een AI-systeem mag maken, welke conclu­sies verboden zijn en hoe mede­wer­kers of klanten bezwaar kunnen maken tegen een geau­to­ma­ti­seerd profiel.

Bij gevoe­lige beslis­singen moet een mens de uitkomst beoor­delen voordat actie wordt onder­nomen. Dat geldt bijvoor­beeld bij perso­neels­se­lectie, krediet­ver­le­ning, verze­ke­ringen, frau­de­de­tectie, medi­sche toepas­singen en toegang tot essen­tiële dien­sten.

Daarbij is het niet voldoende dat een mede­werker alleen formeel goed­keu­ring geeft. De beoor­de­laar moet begrijpen waarop de AI-conclusie is geba­seerd, welke onze­ker­heid daarbij hoort en welke gevolgen een foutieve inschat­ting kan hebben.

Orga­ni­sa­ties die privacy blijven behan­delen als uitslui­tend een kwestie van data­be­scher­ming, lopen volgens Gartner steeds grotere risico’s. De volgende gene­ratie privacy-inci­denten ontstaat niet alleen doordat infor­matie wordt gestolen, maar ook doordat AI meer uit bestaande infor­matie haalt dan orga­ni­sa­ties en betrokken personen verwachten.

De centrale vraag wordt daarmee niet langer alleen welke gege­vens een orga­ni­satie over iemand bewaart. Minstens zo belang­rijk is wat haar AI-systemen denken daaruit te kunnen afleiden.