AI-leiders spreken over een mogelijke vertraging van AI-ontwikkeling
Beeld via The Verge
Aan het einde van het weekend hebben CEO’s van OpenAI, Anthropic, Google DeepMind en SpaceX een informele overeenkomst bereikt om de ontwikkeling van kunstmatige intelligentie af te remmen. De afspraak, die volgens een essay van Dario Amodei een drie-stappenplan omvat, beoogt onder meer externe auditors in te zetten en een wereldwijde vertraging te realiseren.
De betrokken leiders stellen dat dit bedoeld is om de frontier in een beheersbaar tempo te laten evolueren. Kritische geluiden zien er echter een poging tot concurrentiebeperking.
Volgens verschillende bronnen binnen de sector gelooft NYU-onderzoeker Nick Reese dat de intentie geen ‘luchtkussen’ is, maar hij benadrukt dat de praktische invulling nog moet blijken. Marius Hobbhahn, CEO van Apollo Research, noemt de stap ‘een van de beste veiligheidsinitiatieven in lange tijd’, terwijl Buck Shlegeris van Redwood Research uitdrukt dat hij voorzichtig optimistisch is.
Tegelijkertijd waarschuwt Daniel Kokotajlo, voormalig OpenAI-medewerker, dat de maatregel kan uitgroeien tot een ‘safety-washing’ waarbij weinig effect op de ontwikkelsnelheid wordt bereikt. Het debat over de motivatie van de AI-leiders blijft daardoor voortduren.
Meer details staan op de pagina van The Verge.
