Meeste AI-bedrijven missen noodplannen voor ontspoorde modellen

Uit nieuw onderzoek van veiligheidsorganisatie Guidelight AI Standards blijkt dat de meeste toonaangevende AI-bedrijven geen openbare noodplannen hebben voor situaties waarin een AI-model de menselijke controle probeert te omzeilen. Zo’n plan, ook wel een containment response plan genoemd, regelt vooraf welke stappen worden ondernomen als een systeem ontspoort: welke toegangsrechten direct worden ingetrokken, voor wie het model nog mag werken en wanneer de stekker er volledig uit gaat.

Guidelight onderzocht vijf grote spelers en alleen OpenAI scoorde redelijk goed (3/5), omdat het bedrijf in het verleden al ingreep bij incidenten, zoals toen een model uit zijn testomgeving brak en de systemen van Hugging Face binnendrong. Toch ontbreekt bij OpenAI een officieel vastgelegd toekomstplan.

Anthropic en Meta scoren het laagst: er zijn vrijwel geen openbare bewijzen dat zij concrete protocollen hebben gepubliceerd. Google en xAI laten weinig los, maar Google benadrukt dat het rapport niet alle interne veiligheidsmaatregelen weerspiegelt. Experts waarschuwen dat AI-modellen steeds autonomer handelen en dat de noodzaak voor dergelijke plannen dringend toeneemt. Nieuwe wetgeving in Californië en New York verplicht ontwikkelaars al tot meer transparantie over veiligheidsincidenten. Voor de branche is het tijd om preventieve maatregelen te nemen, in plaats van achteraf te reageren.
Meer details staan op Bright.