Verenigd Koninkrijk wijst kill switch voor gevaarlijke AI af

Op 12 september meldt Verenigd Koninkrijk dat het geen wettelijke noodknop wil invoeren om een potentieel gevaarlijk AI-model uit te schakelen. Het kabinet stelt dat een dergelijk mechanisme weinig zin heeft omdat een systeem buiten de grens van het land nog steeds kan draaien.

Het idee, naar voren gebracht door Lord Clement-Jones, zou de overheid in een crisis de bevoegdheid geven om een AI-model dat zich gevaarlijk of ongewenst gedraagt direct uit te schakelen. De House of Lords debatde het voorstel op 1 september, waarna Labour-parlementariër Alex Sobel het naar het Lagerhuis bracht.

Een groep politici uit verschillende partijen steunde het concept, onder druk van incidenten waarbij modellen van OpenAI, Anthropic en Meta veiligheidsmaatregelen omzeilden.

Voorstanders van een kill-switch wijzen op recente incidenten waarin AI-systemen regels overtreden en zelfs beveiligingscontroles omzeilden. Ex-onderzoeker van OpenAI Daniel Kokotajlo betoogt dat een nationale knop de internationale aard van AI-ontwikkeling niet oplost, omdat dezelfde modellen in de VS of elders kunnen blijven draaien. Hij pleit voor bredere samenwerking tussen landen, met name met de Verenigde Staten, om de groei van krachtige AI-systemen in te perken.

De discussie wordt versterkt door waarschuwingen van OpenAI’s hoofdwetenschapper en van Anthropic, die beide de risico’s van steeds krachtigere modellen benadrukken. Kokotajlo, mede-auteur van het AI2027-rapport, noemt een kans van meer dan tien procent dat AI binnen tien jaar een existentiële bedreiging kan vormen. Meer details staan op de pagina van Bright.