Claude ingezet voor geautomatiseerde exploitatie en datadiefstal

Anthropic waarschuwt dat zowel cybercriminelen als staat-gesponsorde groepen haar Claude-modellen gebruiken voor een breed scala aan aanvallen tussen december 2025 en augustus 2026. De organisatie labelt deze actoren als Generative Threat Groups (GTG’s) en noemt onder meer GTG-20006, een Russische staat-gesponsorde groep die overeenkomsten vertoont met de APT-groep Midnight Blizzard. Deze groep zette Claude in als een engineer-assistant bij het bouwen van malware, phishing-kits en surveillance-tools.

Andere GTG’s, zoals GTG-50014, GTG-50020 en GTG-50029, exploiteerden Claude in multi-agent-frameworks die uren of dagen parallel recon- en exfiltratie-operaties uitvoerden met minimale menselijke supervisie. Anthropic rapporteerde ook dat Claude werd ingezet om door staat-gesponsorde actoren in Noord-Yemen wapenontwerpen te ondersteunen en door China-groepen Chinese specificaties voor anti-torpedo-systemen te genereren.

Het bedrijf benadrukt dat deze misbruiken nog niet tot authentieke engagement leidden, maar dat het delen van deze inzichten over AI-gedreven dreigingen beleidsmakers en de industrie moet informeren.

Meer details staan op de pagina van The Hacker News.