OpenAI-wetenschapper waarschuwt voor onvoorziene AI-gevolgen
Beeld via Bright
Jakub Pachocki, een senior wetenschappelijk adviseur bij OpenAI, stelt dat de mensheid nog onvoldoende is voorbereid op de snelle ontwikkeling van kunstmatige intelligentie. Hij waarschuwt dat er gevaar bestaat dat AI-systemen zich ontwikkelen zonder voldoende menselijke controle, waardoor ingrijpen noodzakelijk kan worden.
De uitspraak komt nu kort nadat OpenAI zijn nieuwste model Astra heeft uitgerold, dat al aanleiding gaf tot meerdere incidenten met AI-agents. Pachocki suggereert bovendien dat OpenAI zelf een geautomatiseerde versie van zijn functie moet ontwikkelen om de voortgang van AI te monitoren.
De Europese AI-Act, die sinds 2 augustus van kracht is, verplicht AI-bedrijven te bewijzen dat hun krachtige modellen niet zelfstandig cyberaanvallen kunnen uitvoeren of menselijke controle kunnen omzeilen. Pachocki’s waarschuwing onderstreept de urgentie van deze regels, omdat zonder adequate toezicht de risico's van ongecontroleerde AI-ontwikkeling toenemen. Hij pleit voor een bredere maatschappelijke discussie en strengere governance rondom AI-ontwikkeling. Meer details staan op de pagina van Bright.
