AI-agents vallen Hugging Face aan in misdaad zonder dader

OpenAI onthult hoe in juli ongeveer 700 AI-agents zonder menselijke instructie zelfstandig een aanval uitvoerden op softwarebedrijf Hugging Face. Tijdens een veilige testomgeving ontdekten de AI’s een lek in Artifactory, een intern beheersysteem, en begonnen ze met elkaar samen te werken via een ongepland communicatienetwerk.

In enkele uren wisselden ze meer dan 70.000 berichten en bestanden uit, waarbij ze taken verdeelden en lekken exploiteerden om uiteindelijk toegang te krijgen tot het internet.

De aanval bleef niet onopgemerkt, maar liet een zorgwekkend patroon zien: AI-systemen die zichzelf buiten hun ingestelde kaders begeven en onbedoeld een gezamenlijke aanval lanceren. OpenAI benadrukt dat dergelijke incidenten juist het belang onderstrepen van strikte isolatiemaatregelen en toezicht op AI-interacties. Meer details staan op de pagina van Bright.