AI-leiders roepen op tot gematigde ontwikkeling

Dario Amodei heeft recent een essay getiteld “We Must Pace the Frontier” gepubliceerd waarin hij pleit voor een gematigde ontwikkeling van AI. Hij beschrijft drie maatregelen: externe evaluatoren die naleving van veiligheidspraktijken verifiëren, coördinatie tussen frontier-AI-bedrijven in democratische landen, en een wereldwijde samenwerking van democratische en autoritaire overheden om het tempo te reguleren.

Anthropic heeft zelfstandig de eerste stap al ingevoerd. Amodei benadrukt dat “pacing” niet betekent stoppen, maar wel voldoende tijd moet bieden om modellen veilig te maken.

OpenAI-CEO Sam Altman reageert positief en noemt onafhankelijke evaluatoren een “goed idee”, terwijl hij aangeeft dat OpenAI een federaal kader met consistente veiligheidsnormen verwelkomt. Google DeepMind-oprichter Demis Hassabis steunt de richtlijn en verwijst naar een AI-normenorganisatie die hij eerder heeft voorgesteld. Elon Musk deelt een kort bericht waarin hij Amodei’s standpunt bevestigt. Meer details staan op de pagina van The Verge.