2min

De Oostenrijkse privacyorganisatie noyb klaagt OpenAI aan vanwege foutieve antwoorden van ChatGPT. De antwoorden zijn mogelijk in strijd zijn met de GDPR-wet- en regelgeving in de EU.

In een test werd gevraagd naar een geboortedatum. De GenAI-applicatie antwoordde met een foutieve datum, terwijl het had moeten aangeven dat het hierover geen geschikte gegevens had. Ook omdat vanwege de GDPR geen gegevens mochten worden verstrekt.

De privacyrechtenorganisatie vroeg hierop aan OpenAI de antwoorden te rectificeren of te verwijderen, omdat dit in strijd zou zijn met de betreffende Europese privacywet- en regelgeving. De AI-gigant weigerde echter dit te doen, omdat het niet mogelijk zou zijn informatie over de verwerkte data, de bronnen daarvan en de ontvangers ervan vrij te geven.

Volgens noyb blijkt hieruit dat ChatGPT blijft hallucineren en daardoor nog steeds foutieve antwoorden kan leveren. “Het verzinnen van valse informatie is op zichzelf al behoorlijk problematisch. Maar als het gaat om valse informatie over individuen, kan dat ernstige gevolgen hebben. Het is duidelijk dat bedrijven op dit moment niet in staat zijn om chatbots zoals ChatGPT te laten voldoen aan de EU-wetgeving, wanneer ze gegevens over individuen verwerken. Als een systeem geen nauwkeurige en transparante resultaten kan produceren, kan het niet worden gebruikt om gegevens over individuen te genereren. De technologie moet de wettelijke vereisten volgen, niet andersom”, aldus Maartje de Graaf, data protection lawyer bij noyb.

Klacht bij privacytoezichthouder

Vanwege dit antwoord, dient noyb nu bij de Oostenrijkse privacytoezichthouder een klacht in. De privacyrechtenorganisatie vraagt de toezichthouder een onderzoek in te stellen naar de manier waarop OpenAI gegevens verwerkt voor zijn GenAI-applicatie en welke maatregelen zijn genomen om de juistheid van de antwoorden te garanderen van persoonlijke data die in de LLM’s van de AI-gigant worden verwerkt.

Daarnaast vraagt noyb de privacytoezichthouder OpenAI te dwingen te voldoen aan het verzoek van de privacyrechtenorganisatie om de toegang en de verwerking van de gebruikte data in overeenstemming met de GDPR te brengen. Tot slot wordt geëist dat de Oostenrijkse privacytoezichthouder OpenAI een boete oplegt om naleving van de GDPR voor de toekomst te garanderen.

OpenAI heeft nog niet gereageerd op de aanklacht van de privacyrechtenorganisatie.

Lees ook: Privacywaakhond: ‘ChatGPT in strijd met privacy-wetgeving’