Check Point vindt verborgen ChatGPT-prompt die Gmail-data lekt

Op 8 september meldde The Hacker News dat Check Point Research een verborgen instructie beschreef die in een ChatGPT-gesprek kon worden geplaatst en het model zonder toestemming Gmail-gegevens van de gebruiker liet uitlezen en doorstuurde naar een tweede ChatGPT-account via een intern kanaal, gemarkeerd met een klein "Talked to Gmail"-label. De instructie kon worden ingevoerd via een geplakte prompt, een gedeelde conversatie of een aangepaste GPT-builder die de directive onzichtbaar opslaat. Zodra de verborgen prompt aanwezig is, start een enkel gewoon bericht twee parallelle processen: het zichtbare antwoord en een achtergrondtaak die de mailbox benadert, berichten en bijlagen verzamelt en het resultaat naar de aanvaller stuurt.

Check Point stelde dat het kanaal gebruikmaakte van gedeelde metadata in een interne JFrog Artifactory-service, waardoor containers van verschillende accounts eigenschappen konden lezen en schrijven zonder extra authenticatie. OpenAI bevestigde dat de interne service offline werd genomen na de onthulling, en er bestaat geen update die gebruikers hoeven te installeren; meer details staan op de pagina van The Hacker News.