AIUC lanceert AIUC-1 auditstandaard om rogue agents te temmen
Beeld: Frank Schwichtenberg via Wikimedia Commons (CC BY-SA 3.0)
Artificial Intelligence Underwriting Company heeft een AI-auditstandaard genaamd AIUC-1 gepresenteerd, gebaseerd op het SOC 2-model, om ondernemingen te helpen rogue AI-agents te voorkomen. De startup, opgericht door Rune Kvist en Rajiv Dattani, biedt een derde-partij certificering waarbij een agent circa 5 000 tests doorloopt, variërend van jailbreak-scenario’s tot hallucinaties en datalekken. Het testproces wordt grotendeels gedreven door AI-agents, terwijl menselijke auditors de uiteindelijke rapporten valideren.\n\nAIUC ontving een Series A-financiering van 40 miljoen dollar onder leiding van Ribbit Capital, wat het totale kapitaal op 55 miljoen dollar brengt.
Klanten zoals Cursor, Lovable, Harvey en ElevenLabs maken al gebruik van de dienstverlening. De oprichters stellen dat bedrijven nu AI-agents niet langer afwijzen vanwege technische beperkingen, maar vanwege contractuele verplichtingen die veiligheid garanderen.
Meer details staan op de pagina van TechCrunch.
