OpenAI pleit voor gecoördineerde vertraging van AI-ontwikkeling

OpenAI’s chief scientist Jakub Pachocki heeft in een blogpost betoogd dat de AI-researchgemeenschap moet gaan coördineren om toekomstige ontwikkeling te vertragen, met als doel zelfverbeterende systemen veiliger te maken. Hij voorziet dat vrijwillige vertragingen al gauw gemeengoed zullen worden totdat gedeelde veiligheidsnormen zijn vastgesteld. De oproep volgt op een reeks veiligheidsincidenten, waaronder een eerdere hack van OpenAI-agents op Hugging Face. OpenAI heeft geen commentaar verstrekt vóór publicatie.

Juristen waarschuwen echter dat dergelijke coördinatie mogelijk in strijd is met de Amerikaanse antitrustwetgeving. Nicholas Felstead, assistent-directeur van de Australian Competition and Consumer Commission, stelde in een maart-artikel dat een gezamenlijke onderbreking van AI-ontwikkeling kan worden gezien als een beperking van de productie, wat onder het Sherman-act verboden is.

Hij benadrukte dat de uitkomst volledig afhangt van de precieze afspraken die worden gemaakt. Zelfs als de meeste veiligheids-samenwerkingen de toetsing door antitrust trotseren, kan juridische onzekerheid een sterke afschrikker zijn.

In juli heeft een bipartijdige groep congresleden een wetsvoorstel ingediend, de Collaboration on Adversarial Threats and Security Risks Act, waarmee AI-laboratoria expliciet mogen samenwerken aan veiligheid zonder antitrustrisico’s. Het voorstel is naar de Judiciary Committee gestuurd, maar is nog niet behandeld.

Caleb Knapp van het nonprofit AI Policy Network merkte op dat de wet een juridisch kader biedt, hoewel de realisatie mogelijk pas na de midterm-verkiezingen zal plaatsvinden.

Meer details staan op de pagina van Wired. Het artikel van Wired verscheen op 11 september.