Privacyorganisatie noyb dient klacht tegen OpenAI in bij Noorse toezichthouder wegens hallucinaties

Toen de Noorse gebruiker Arve Hjalmar Holmen ChatGPT vroeg of er informatie over hem beschikbaar was, kreeg hij een verzonnen horrorverhaal te zien. ChatGPT beschreef hem als een veroordeelde crimineel die twee van zijn kinderen zou hebben vermoord en een poging zou hebben gedaan om zijn derde kind te doden. Het verhaal bevatte ook echte persoonlijke details, zoals het aantal en geslacht van zijn kinderen en de naam van zijn woonplaats. Bovendien beweerde ChatGPT dat de gebruiker tot 21 jaar gevangenisstraf was veroordeeld. Dit mengsel van echte en valse informatie is duidelijk in strijd met de GDPR, die eist dat persoonsgegevens nauwkeurig zijn.

'Persoonsgegevens moeten nauwkeurig zijn'

"De GDPR is duidelijk. Persoonsgegevens moeten nauwkeurig zijn. En als dat niet het geval is, hebben gebruikers het recht om ze te laten aanpassen zodat ze de waarheid weerspiegelen. Een kleine disclaimer voor ChatGPT-gebruikers die aangeeft dat de chatbot fouten kan maken, is duidelijk niet voldoende. Je kunt niet gewoon valse informatie verspreiden en er vervolgens een kleine disclaimer achter zetten die zegt dat alles wat je hebt gezegd misschien niet waar is", zegt Joakim Söderberg, advocaat bij noyb.

Noyb vraagt de Noorse toezichthouder om OpenAI te dwingen de valse informatie te verwijderen en het model te verfijnen om onjuiste resultaten over de klager te voorkomen. Daarnaast wil noyb dat OpenAI de verwerking van de persoonsgegevens van de Noorse man beperkt en dat het bedrijf een boete krijgt. Deze boetes kunnen oplopen tot vier procent van de wereldwijde omzet van OpenAI.