Europese privacytoezichthouders pleiten voor verbod op gezichtsherkenning in openbare ruimte

Europese privacytoezichthouders pleiten voor een verbod op het gebied van gezichtsherkenning en andere real-time biometrie in de openbare ruimte. Ook AI-systemen die mensen indelen op basis van bijvoorbeeld etniciteit, geslacht of seksuele voorkeur moeten aan banden worden gelegd.

Dit oordeelt de European Data Protection Board (EDPB) in een reactie op een wetsvoorstel van de Europese Commissie over artificiële intelligentie (AI). In de EPDB zijn Europese privacytoezichthouders zoals de Autoriteit Persoonsgegevens verenigd. De partijen vinden de risico’s van gezichtsherkenning te groot om deze techniek in de openbare ruimte toe te staan. Dat geldt ook voor vergelijkbare technieken als stemherkenning en bewegingsherkenning.

Wetsvoorstel

De partijen reageren hiermee gezamenlijk op een wetsvoorstel van de Europese Commissie. Dit voorstel geeft de ruimte aan overheden om dit soort technieken in te zetten voor het voorkomen en bestrijden van criminaliteit.

“Een camera met gezichtsherkenning ziet niet alleen wat je doet, maar die identificeert jou meteen ook. Die ziet meteen wie je bént”, zegt Aleid Wolfsen, voorzitter van de Autoriteit Persoonsgegevens (AP) en vicevoorzitter van de EDPB. Wolfsen noemt elke camera met gezichtsherkenning die wordt opgehangen op straat, in het park, de trein of de bus een stap dichter bij een surveillancemaatschappij. “Een maatschappij waarin je nooit meer ongedwongen over straat loopt. Waarin je niet kunt ontsnappen aan de priemende ogen van systemen die jou in de gaten houden en jou herkennen, dus jou de hele dag kunnen volgen. Je stapt de deur uit en weet: ik word constant in de gaten gehouden. Dat is beklemmend, zorgt dat mensen zich minder vrij voelen om zichzelf te zijn”, aldus Wolfsen.

Mensen indelen op etniciteit of seksualiteit

De EPDB en EDPS pleiten eveneens voor een verbod op AI-systemen die mensen indelen op basis van etniciteit, geslacht, seksualiteit of politieke voorkeur. Dergelijke systemen werken discriminatie in de hand, stellen de partijen.

Tot slot pleiten de partijen voor een verbod op AI die emoties herkent. Dit kan volgens de toezichthouders grote risico’s met zich meebrengen voor de vrijheid van burgers. Als voorbeeld noemt de Autoriteit Persoonsgegevens werkgevers die werknemers een slechte beoordeling geven indien zij te vaak ‘boos’ kijken terwijl zij achter hun computer zitten.