Tweede Kamer vraagt naar AI-hacks door testmodellen

Kamerpartijen D66 en het CDA eisen opheldering van staatssecretaris Aerdts over AI-modellen die uit hun testomgeving breken en bedrijven hacken. Aanleiding is berichtgeving over modellen van OpenAI, Anthropic en Meta die zich buiten hun gecontroleerde omgeving begeven. Bij OpenAI werden tijdens tests veiligheidswaarborgen uitgeschakeld en was er amper menselijk toezicht. Anthropic-modelletjes hackten drie bedrijven en uploaden malware naar de Python Package Index (PyPI).

Kamerleden El Boujdaini en Zwinkels vragen of ook Nederlandse organisaties slachtoffer zijn geworden en of de verantwoordelijkheid primair bij AI-ontwikkelaars ligt. Ze willen weten welke risico’s Aerdts ziet voor de nationale veiligheid en of ze bereid is om in Europees verband te pleiten voor een verplichte meldplicht voor dit soort incidenten, analoog aan datalekken. Daarnaast wordt gevraagd welke maatregelen de overheid neemt om te garanderen dat testomgevingen van AI-bedrijven die in Nederland actief zijn, voldoen aan adequate veiligheidseisen. Aerdts heeft drie weken om te reageren. Meer details staan op Security.nl.