Meta introduceert Muse, persoonlijke AI-agent met Secure VM-isolatie

Meta lanceert vandaag Muse, een persoonlijke AI-agent, via een speciale Muse-app voor iOS en Android, een website op muse.ai en directe messaging via WhatsApp. Het product, ontwikkeld door Meta Superintelligence Labs, richt zich op automatisering van digitale taken en is gratis te proberen, terwijl intensief gebruik een abonnement vereist.

Muse draait in een Secure VM die elke gebruiker in een geïsoleerde virtuele machine plaatst en een component genaamd Sentinel gebruikt om uitgaande data te monitoren en bij onduidelijkheid een menselijke goedkeuring te vragen. David Singleton, vicepresident engineering, benadrukt dat deze aanpak voorkomt prompt-injection-aanvallen doordat de controle-prompt rechtstreeks naar de gebruiker gaat.

Naast Secure VM introduceert Meta een Confidential VM, een trusted execution environment waarin gebruikers hun eigen encryptiesleutels beheren en Meta geen toegang heeft tot de data, een concept ontwikkeld in samenwerking met Moxie Marlinspike. Meta maakt de binaries en een transparantielog openbaar en stelt een bounty in van tot $300 000, waarvan $130 000 voor succesvolle prompt-injection-gevallen.

Het team heeft de Secure VM al grondig getest met interne red-teams en een privé-bug-bounty, waarna de publieke bounty nu wordt uitgebreid.

Meer details vinden lezers op de berichtpagina van Wired.