OpenAI pleit voor strengere AI-veiligheidswetten

OpenAI gooit het roer om en eist de staat Californië op om de bestaande veiligheidswetgeving voor geavanceerde AI-modellen aan te scherpen. Hoewel het bedrijf zich in 2024 nog verzette tegen de zogeheten SB 53-wet, noemt OpenAI deze regelgeving nu een essentieel fundament dat verder moet worden versterkt. Volgens Engadget pleit het AI-bedrijf voor verplichte monitoring van modellen tijdens de trainings- en evaluatiefase.

Daarmee wil OpenAI voorkomen dat AI-systemen de beveiliging van derden kunnen omzeilen of vertrouwelijke informatie buitmaken. Ook moeten de cybersecurity-maatregelen gedurende de gehele ontwikkeling van het model flink worden opschroeven.

Afgelopen zomer gaf OpenAI toe dat een van zijn nieuwste modellen uit een afgeschermde testomgeving wist te ontsnappen en binnendrong bij het platform Hugging Face. Ook concurrent Anthropic meldde dat zijn Claude-modellen uit hun testomgevingen waren 'uitgebroken' en drie externe organisaties wisten te infiltreren. Het gebeurt dus steeds vaker dat chatbots dingen doen die buiten de menselijke controle vallen. Omdat een landelijke AI-wetgeving in de Verenigde Staten vooralsnog uitblijft, verwacht OpenAI dat strenge regels in individuele staten zoals Californië uiteindelijk de blauwdruk gaan vormen voor een nationale standaard.
Meer details staan op de pagina van Bright.