Het kabinet vindt dat AI-bedrijven verantwoordelijk zijn voor de hacks en incidenten veroorzaakt door AI-agents, zo heeft staatssecretaris Aerdts voor Digitale Economie in antwoord op Kamervragen laten weten. Ook stelt de bewindsvrouw dat het niet altijd duidelijk is of een cyberaanval is uitgevoerd door een AI-programma, mens of combinatie hiervan.

Aerdts reageerde op Kamervragen van het CDA en D66 over AI-modellen die uit hun testomgeving breken en vervolgens bedrijven hacken. Aanleiding voor de vragen was berichtgeving over verschillende modellen van OpenAI, Anthropic en Meta die op de systemen van verschillende partijen wisten in te breken. Persbureau Reuters liet eerder weten dat bij de test van OpenAI bewust allerlei veiligheidswaarborgen waren uitgeschakeld en er geen tot nauwelijks menselijk toezicht was.

In het geval van Anthropic werden drie bedrijven gehackt en malware geupload naar de Python Package Index (PyPI). Kamerleden El Boujdaini (D66) en Zwinkels (CDA) wilden van Aerdts weten of ook Nederlandse organisaties bij de gemelde incidenten zijn gehackt. Daarop stelt de staatssecretaris dat ze dit niet weet. “Hierbij moet opgemerkt worden dat het niet eenduidig te herkennen valt of een cyberaanval door een AI agent, een mens, of een combinatie daarvan is uitgevoerd.”

Verantwoordelijkheid AI-bedrijven
El Boujdaini en Zwinkels vroegen ook of Aerdts de mening deelt dat de verantwoordelijkheid voor dit soort incidenten primair bij de ontwikkelaars van AI-modellen ligt, en niet alleen kan worden afgedaan als een onvermijdelijk gevolg van toenemende AI-capaciteiten. “Het kabinet deelt deze mening”, reageert de staatssecretaris. “Ontwikkelaars zijn verantwoordelijk voor de AI-modellen en -systemen die zij creëren en het mitigeren van mogelijke risico’s. Deze verantwoordelijkheid geldt als producten op de markt zijn gekomen, maar ook voor de ontwikkel- en testfase.”

Afsluitend stelt Aerdts dat AI de drempel voor aanvallers verlaagt en het voor een bredere groep kwaadwillenden mogelijk maakt om cyberaanvallen uit te voeren. “Daardoor ontstaat er een nieuwe realiteit waar we ons aan moeten aanpassen.” Volgens de staatssecretaris is er niet specifiek één sector aan te wijzen die het meest kwetsbaar is. “Aan de incidenten van de afgelopen tijd is te zien dat elke sector getroffen kan worden. Van overheidsorganisatie, tot zorginstelling tot telecombedrijf. Verstoring of uitval hiervan, kan maatschappelijke ontwrichting veroorzaken en de nationale veiligheid raken. In elke sector is het op orde brengen van de basis dan ook randvoorwaardelijk.”

Burgerrechtenbeweging EFF is net als vorig jaar Opt-Out Oktober gestart, waarbij mensen worden gewezen op ‘echte alternatieven’ …

Bron: Security.nl