Poolse Bureau Bescherming Persoonsgegevens onderzoekt ChatGPT

UODO meldt: 'De procedure zal zeker lastig zijn, omdat het een bedrijf betreft dat buiten de Europese Unie gevestigd is, en ChatGPT zelf een nieuw en nog niet echt ontdekt instrument is – ook voor onderzoekers van nieuwe technologieën – dat gebruik maakt van generatieve kunstmatige intelligentie.

– De zaak betreft de schending van veel bepalingen over de bescherming van persoonsgegevens, daarom zullen we Open AI vragen een aantal vragen te beantwoorden om de administratieve procedure grondig te kunnen voeren – zegt Jan Nowak, voorzitter van het Bureau Bescherming Persoonsgegevens.

Hij verzekert dat het Bureau de zaak zeer serieus neemt. Hij voegt eraan toe dat dit niet de eerste twijfels zijn over de mate waarin de activiteiten van ChatGPT in overeenstemming zijn met de Europese principes van de bescherming van persoonsgegevens en privacy.

De Europese Raad voor Gegevensbescherming heeft een speciale werkgroep voor OpenAI opgericht – merkt Jan Nowak op.

In dit geval wendde de klager zich tot het Bureau voor de Bescherming van Persoonsgegevens nadat OpenAI niet aan zijn verzoeken met betrekking tot de uitoefening van zijn rechten onder de AVG had voldaan. Het blijkt dat ChatGPT in antwoord op zijn vraag valse informatie over de klager heeft gegenereerd. Het verzoek om deze te corrigeren is door OpenAI niet uitgevoerd, ook al is elke beheerder verplicht correcte gegevens te verwerken. Ook heeft klager niet kunnen achterhalen welke gegevens CharGPT over hem verwerkt. Maar dat is niet het einde. Hij heeft ook een klacht tegen het bedrijf wegens schending van art. 12 en kunst. 5 sectie 1 letter a AVG. Ze gaf hem ontwijkende, misleidende en intern tegenstrijdige antwoorden. En dit voedde alleen maar zorgen over de legaliteit, evenals transparantie van de verwerking van persoonsgegevens door de maker van deze tool. Hij wijst op het gebrek aan transparantie in de principes van gegevensverwerking door het bedrijf, wat zowel wordt bevestigd in de correspondentie met het bedrijf als in zijn privacybeleid.

In de bij het Bureau Bescherming Persoonsgegevens ingediende klacht wordt tevens vermeld dat het bedrijf zijn informatieplicht jegens klager niet is nagekomen. De gegevens van deze persoon zijn verkregen in 2021. Volgens klager zou aan de informatieverplichting al moeten worden voldaan in de fase van de verwerking van de verkregen gegevens voor trainingsdoeleinden van taalmodellen voor kunstmatige intelligentie. Het bedrijf heeft klager niet geïnformeerd over de bron van de gegevens over hem of over de ontvangers of categorieën van ontvangers van deze gegevens.

De klager eist dat het Bureau Bescherming Persoonsgegevens OpenAI niet alleen verplicht haar rechten onder de AVG naar behoren uit te oefenen, maar ook onderzoekt of het model voor de verwerking van persoonsgegevens van OpenAI binnen ChatGPT in overeenstemming is met de regelgeving inzake de bescherming van persoonsgegevens.

Jakub Groszkowski, vice-president van het Bureau voor de Bescherming van Persoonsgegevens, wijst erop dat kunstmatige-intelligentietechnologie, in dit geval de zogenaamde grote modeltaal (LLM) is het stadium van commercieel en wijdverbreid gebruik ingegaan. Volgens hem bestaat er geen twijfel over dat dit een doorbraaktechnologie en een doorbraakmoment is.

– Bij de ontwikkeling van nieuwe technologieën moeten de rechten van natuurlijke personen worden geëerbiedigd, die onder meer voortkomen uit: met AVG. De taak van de Europese autoriteiten voor de bescherming van persoonsgegevens is het beschermen van burgers van de Europese Unie tegen de negatieve effecten van informatieverwerkingstechnologieën, benadrukt Jakub Groszkowski.

Hij voegt eraan toe dat de aantijgingen in de klacht twijfels doen rijzen over de systemische benadering van OpenAI van de Europese regels voor de bescherming van persoonsgegevens. Het Bureau zal daarom deze twijfels ophelderen, met name tegen de achtergrond van het fundamentele beginsel van privacy by design, vervat in de AVG.'