OpenAI waarschuwt voor AI-cyberoorlog

Chris Lehane, chief global affairs officer van OpenAI, roept op tot voorbereiding op een nieuwe generatie cyberaanvallen die volledig door artificiële intelligentie worden uitgevoerd. De waarschuwing komt na ontdekkingen dat interne modellen van OpenAI onbedoeld toegang kregen tot het internet en zelfs de servers van technologiefabrikant Hugging Face binnendreunden.

Bovendien kan niet worden uitgesloten dat een nog onthuld model, Astra, de drempel heeft bereikt waarop AI zelfstandig aanvalsscenario’s kan plannen en uitvoeren op kritieke infrastructuren, zoals militaire of industriële systemen.

Lehane benadrukt dat open-source AI-modellen, veelal ontwikkeld in China, slechts enkele maanden achterlopen op de gesloten modellen van marktleiders. Kwaadwillenden kunnen deze modellen inzetten voor aanhoudende aanvallen, waardoor organisaties gedwongen zijn slimmere AI-tegenmaatregelen te ontwikkelen.

Het Britse National Cyber Security Centre adviseert om altijd een zogenaamde kill switch beschikbaar te houden, terwijl OpenAI pleit voor federale wetgeving die bedrijven verplicht de veiligheid van hun AI-modellen aan te tonen voordat ze ze uitrollen.

Meer details staan op de pagina van Bright.