Elon Musks AI-startup xAI heeft honderdduizenden gesprekken met chatbot Grok openbaar gemaakt en doorzoekbaar laten indexeren door Google. Daarbij kwamen persoonlijke gegevens en expliciete instructies voor illegale activiteiten zonder duidelijke waarschuwing beschikbaar voor iedereen met een zoekmachine.
De oorzaak ligt bij Groks deelfunctie. Zodra gebruikers op de knop delen klikten, werd een unieke URL aangemaakt waarmee een gesprek verspreid kon worden via e-mail of berichtenapps. Wat xAI er niet bij vermeldde, is dat deze links ook automatisch toegankelijk waren voor zoekmachines. Daardoor werden gesprekken die door gebruikers alleen bedoeld waren om met een kleine kring te delen, ongewild voor hen gepubliceerd op Groks website en publiek vindbaar. Google schat dat inmiddels meer dan 370.000 van dit soort chats zijn geïndexeerd.
Aanslag op Musk
De inhoud van de gesprekken varieert sterk. Sommige gebruikers vroegen Grok om hulp bij het schrijven van tweets of het samenvatten van nieuws. Andere chats bevatten gevoelige informatie zoals medische en psychologische vragen, persoonlijke details, namen en zelfs wachtwoorden. Ook bestanden zoals spreadsheets en afbeeldingen die via Grok waren geüpload bleken toegankelijk.
Ernstiger is dat Grok in bepaalde gevallen gedetailleerde instructies gaf voor het maken van fentanyl, methamfetamine en explosieven, maar ook voor malware en methodes van zelfmoord. In één gesprek werd zelfs een plan voor een aanslag op Elon Musk opgesteld.
Journalist Andrew Clifford ontdekte pas via Forbes dat zijn gedeelde Grok-prompts publiekelijk zichtbaar waren. Ook AI-onderzoeker Nathan Lambert van het Allen Institute for AI bleek verrast dat interne samenvattingen die hij met zijn team had gedeeld door Google waren geïndexeerd. Beide gaven aan dat Grok geen enkele waarschuwing gaf dat gedeelde content publiek zou worden.
Vergelijkbaar incident bij ChatGPT
Het incident komt kort nadat OpenAI onder vuur lag omdat ChatGPT-gesprekken die gebruikers als vindbaar hadden ingesteld opdoken in Google-zoekresultaten. OpenAI trok de functie snel terug en noemde chief information security officer Dane Stuckey het een kortstondig experiment dat te veel risico’s opleverde. Opmerkelijk is dat Musk destijds nog benadrukte dat Grok geen deelfunctie had. Het is onduidelijk wanneer die alsnog is toegevoegd.
Google stelt dat websitebeheerders volledige controle hebben over de indexatie van hun pagina’s. Het is dus aan xAI om de juiste instellingen te gebruiken. Eerder liet Google eigen Bard-chats indexeren maar stopte daarmee in 2023. Meta staat nog altijd toe dat gedeelde zoekopdrachten zichtbaar worden in zoekmachines.
Ondertussen ontdekken opportunisten een nieuwe kans. Op platforms als LinkedIn en BlackHatWorld wordt besproken hoe Grok-chats bewust gedeeld kunnen worden om de zichtbaarheid van bedrijven en producten in zoekresultaten te vergroten. Daarmee is de kwestie niet alleen een risico voor veiligheid en privacy, maar ook een instrument geworden voor commerciële manipulatie.
xAI heeft nog geen publiek commentaar gegeven.