Duits­land krijgt een eigen AI Secu­rity Insti­tute. De Duitse Nati­o­nale Veilig­heids­raad heeft besloten tot de oprich­ting van het Deut­sche AI Secu­rity Institut, kortweg DE-AISI. Daarmee sluit Duits­land aan bij landen als het Vere­nigd Konink­rijk, de Vere­nigde Staten en Frank­rijk, die al eerder eigen insti­tuten hebben inge­richt om de veiligheidsrisico’s van geavan­ceerde AI-systemen beter te kunnen beoor­delen.

De Duitse bran­che­or­ga­ni­satie Bitkom verwel­komt de stap nadruk­ke­lijk, maar waar­schuwt tege­lijk dat de uitein­de­lijke inrich­ting van het insti­tuut bepa­lend wordt. Het verschil tussen een instel­ling van wereld­klasse en een middel­ma­tige over­heids­club zit volgens Bitkom vooral in mandaat, talent, finan­cie­ring en bestuur­lijke slag­kracht.

Innovatie en misbruik

De aanlei­ding is duide­lijk. Fron­tier AI-modellen, de meest geavan­ceerde modellen die door grote AI-labs worden ontwik­keld, krijgen steeds meer moge­lijk­heden. Ze kunnen soft­ware schrijven, kwets­baar­heden analy­seren, complexe infor­matie combi­neren en in sommige gevallen gedrag vertonen dat vooraf moei­lijk precies te voor­spellen is. Dat maakt ze inte­res­sant voor inno­vatie, maar ook rele­vant voor nati­o­nale veilig­heid. Denk aan cyber­aan­vallen, mani­pu­latie op grote schaal, misbruik bij de ontwik­ke­ling van gevaar­lijke stoffen of scenario’s waarin de controle over AI-systemen onder druk komt te staan.

Bitkom verwijst daarbij onder meer naar de discussie rond Mythos, het door Anthropic AI-model waarvan de cyber­ca­pa­ci­teiten als waar­schu­wing worden gezien. De kern van die waar­schu­wing is niet dat elk krachtig AI-model auto­ma­tisch gevaar­lijk is, maar wel dat over­heden zelf moeten kunnen beoor­delen wat zulke modellen kunnen, hoe effec­tief inge­bouwde veilig­heids­maat­re­gelen zijn en welke risico’s ontstaan wanneer deze tech­no­logie breder beschik­baar komt. Duits­land beschikt volgens Bitkom nog onvol­doende over zo’n zelf­standig en tech­nisch diep­gaand Lage­bild: een actueel, onder­bouwd over­zicht van de moge­lijk­heden en gevolgen van fron­tier AI voor veilig­heid en soeve­rei­ni­teit.

Meer dan toezicht

Het nieuwe insti­tuut moet daarom geen klas­sieke toezicht­houder worden. Ook moet het geen brede ethi­sche advies­raad zijn en evenmin een alge­mene onder­zoeks­in­stel­ling voor alles wat met kunst­ma­tige intel­li­gentie te maken heeft. Bitkom pleit juist voor een scherp afge­ba­kende missie: tech­nisch onder­zoek en situ­a­ti­o­nele beoor­de­ling. Het DE-AISI zou fron­tier-modellen syste­ma­tisch moeten testen, red-teaming moeten uitvoeren, misbruikscenario’s moeten onder­zoeken en moeten nagaan welke nieuwe of onver­wachte capa­ci­teiten bij geavan­ceerde AI-systemen ontstaan. De uitkom­sten moeten bruik­baar zijn voor de Duitse rege­ring, minis­te­ries, de Nati­o­nale Veilig­heids­raad en andere rele­vante instan­ties.

Daarmee raakt het plan ook aan digi­tale soeve­rei­ni­teit. Wie afhan­ke­lijk is van buiten­landse analyses, buiten­landse aanbie­ders of publieke claims van AI-bedrijven, kan moei­lijk zelf­standig beleid maken. Een Duits AI Secu­rity Insti­tute moet de over­heid in staat stellen om zelf tech­ni­sche exper­tise op te bouwen. Niet om inno­vatie af te remmen, maar om beter te begrijpen waar de grens ligt tussen nuttige toepas­singen, beheers­bare risico’s en ontwik­ke­lingen die directe gevolgen kunnen hebben voor kritieke infra­struc­tuur, defensie, cyber­se­cu­rity en maat­schap­pe­lijke stabi­li­teit.

Brits voorbeeld

Volgens Bitkom moet Duits­land daarbij nadruk­ke­lijk kijken naar het Britse voor­beeld. Het UK AI Secu­rity Insti­tute wordt gezien als een van de leidende instel­lingen op dit terrein. Dat komt niet alleen door budget of poli­tieke steun, maar vooral door de manier waarop het insti­tuut is opgezet. Het func­ti­o­neert niet als een klas­sieke over­heids­dienst, maar eerder als een high-perfor­mance tech-startup binnen de over­heid. Dat bete­kent: snel kunnen handelen, inter­na­ti­o­naal topta­lent kunnen aantrekken, concur­re­rende arbeids­voor­waarden kunnen bieden en beschikken over voldoende reken­kracht om modellen echt diep­gaand te testen.

Precies daar ligt voor Duits­land de grootste uitda­ging, meent Bitkom. Een insti­tuut dat fron­tier AI wil beoor­delen, moet experts aantrekken die ook bij de grote AI-labs of inter­na­ti­o­nale onder­zoeks­in­sti­tuten zouden kunnen werken. Dat vraagt om een tech­ni­sche leiding met inter­na­ti­o­nale repu­tatie, een sterk foun­ding team en een werk­om­ge­ving waarin onder­zoe­kers niet vast­lopen in bureau­cratie. Bitkom stelt daarom dat het aantrekken van topta­lent de eerste prio­ri­teit moet zijn. Pas als die mensen binnen zijn, krijgt het insti­tuut de geloof­waar­dig­heid die nodig is om op gelijke hoogte met AI-aanbie­ders te opereren.

Ook finan­cie­ring is daarbij cruciaal. Bitkom noemt een start­budget van mini­maal 100 miljoen euro voor de eerste twee jaar en daarna een struc­tu­rele finan­cie­ring van mini­maal 75 miljoen euro per jaar. Dat bedrag moet niet alleen sala­rissen moge­lijk maken, maar ook veilige tech­ni­sche infra­struc­tuur, reken­kracht en testom­ge­vingen. Tege­lijk pleit Bitkom ervoor om de vrij­gave van middelen te koppelen aan het daad­wer­ke­lijk aantrekken van mensen met de vereiste tech­ni­sche en weten­schap­pe­lijke repu­tatie. Geld alleen is dus niet voldoende; het moet worden omgezet in capa­ci­teit.

Niet doen

Opval­lend is ook wat het insti­tuut volgens Bitkom juist niet moet doen. Arbeids­recht, consu­men­ten­be­scher­ming, privacy en alge­mene AI-ethiek horen volgens de bran­che­or­ga­ni­satie bij andere organen. Ook thema’s als AI-concur­ren­tie­kracht of de bouw van data­cen­ters moeten niet in het mandaat worden geschoven. Die afba­ke­ning moet voor­komen dat het DE-AISI te breed wordt, poli­tiek versnip­perd raakt of zijn tech­ni­sche focus verliest.

Als Duits­land erin slaagt het insti­tuut op deze manier op te bouwen, kan het DE-AISI meer worden dan een nieuwe schakel in het AI-beleid. Het kan dan uitgroeien tot een stra­te­gisch instru­ment voor nati­o­nale veilig­heid en tech­no­lo­gi­sche soeve­rei­ni­teit. Boven­dien kan het laten zien dat ook binnen de over­heid instel­lingen moge­lijk zijn die snel, tech­nisch excel­lent en inter­na­ti­o­naal aange­sloten werken. De oprich­ting is daarmee slechts de eerste stap. De echte test begint nu: krijgt Duits­land een insti­tuut dat fron­tier AI werke­lijk kan door­gronden, of blijft het bij een goed­be­doelde maar te beperkte struc­tuur?