ControlAI pleit voor stop ontwikkeling superintelligente AI
Beeld: met AI gemaakt
Op de Equity-podcast van TechCrunch bespreekt Rebecca Bellan de recente OpenAI-Hugging-Face-inbraak, een incident dat de kwetsbaarheid van krachtige taalmodellen blootlegt, en de daarmee samenhangende toename van zorgen over een komende superintelligente AI. Ze interviewt Connor Leahy, AI-onderzoeker en uitvoerend directeur van de nonprofit ControlAI, die zich specialiseert in risicobeoordeling van autonomere systemen.
Leahy stelt dat de risico’s nu zo groot zijn dat traditionele methoden voor afstemming en containment onvoldoende blijken.
ControlAI pleit nu voor een radicale koers: een expliciet verbod op het ontwikkelen van systemen die de menselijke intelligentie overstijgen, ongeacht hun toepassingsgebied. De organisatie lobbyt actief voor wet- en regelgeving die bedrijven belemmert dergelijke superintelligente modellen te bouwen, zowel in de Verenigde Staten als in Europa, en verwijst naar recente wetgevingsinitiatieven die in de parlementen zijn ingebracht.
Volgens Leahy groeit de dreiging sneller dan de beschikbare controlemechanismen kunnen bijhouden, waardoor een proactieve aanpak noodzakelijk wordt.
Nieuwe wetsvoorstellen, waaronder een congresinitiatief in de VS en een EU-richtlijn, volgen zijn oproep en kunnen de industriële technologische ontwikkeling beperken. Meer details staan op de pagina van TechCrunch.
