Europees Parlement stemt in met AI Act

De AI Act is met 523 stemmen voor, 46 tegen en 49 onthoudingen aangenomen door het Europees Parlement. De wet identificeert onder meer hoge risico AI-systemen, en stelt daaraan eisen. Denk daarbij aan AI-toepassingen op het gebied van kritieke infrastructuur en essentiële maatschappelijke diensten. Zo is menselijk toezicht vereist, moeten risico's zoveel mogelijk worden weggenomen en staat transparantie centraal.

AI-toepassingen op de werkvloer

De Europese wet brengt regels met zich mee voor het gebruik van AI-systemen door bedrijven. Zo zijn AI-toepassingen die emoties identificeren op de werkvloer of scholen niet toegestaan. Ook legt de AI Act het scrapen van systemen van andere platforms voor het creëren van databases voor gezichtsherkenning aan banden.

General-purpose AI (GPAI) systemen en GPAI-modellen waar deze op zijn gebaseerd moeten voldoen aan transparantievereisten. Ook moeten zij voldoen aan Europese wetgeving op het gebied van auteursrechten. Met het oog daarop moeten partijen een gedetailleerd overzicht delen van de content die zij hebben gebruikt voor het trainen van de modellen. 

Beelden, audiobestanden en video's die met behulp van AI zijn bewerkt moeten duidelijk als dusdanig zijn gekenmerkt .

Gebruik door politiediensten

In de wet zijn daarnaast kaders vastgelegd voor het gebruik van AI door politiediensten. Het uitgangspunt daarbij is dat biometrische identificatiesystemen niet mogen worden gebruikt; alleen in specifieke situaties is dit toegestaan. Realtime gebruik van deze systemen mag alleen met toestemming van de rechter.

De Europese Raad moet nog akkoord gaan met de wet. Meer informatie over de AI Act is hier beschikbaar.

Alois Reitbauer, Chief Technology Strategist bij Dynatrace, zegt in een reactie: "Er leek nooit twijfel over of het Europees Parlement vóór de EU AI Act zou stemmen. Deze meerderheidsuitslag heeft eindelijk bevestigd dat deze wetgeving er komt en daar moeten we ons nu al op voorbereiden. Een van de grootste overwegingen die snel moet worden aangepakt, is de manier waarop de wetgeving zal worden gehandhaafd. Het is onmogelijk voor organisaties om hieraan te voldoen als men het niet eerst eens is over wat een AI-model inhoudt. De EU zal er dus allereerst voor moeten zorgen dat dit duidelijk is gedefinieerd. Wordt de machine learning die gebruikt wordt in onze mobiele telefoons of slimme thermostaten bijvoorbeeld geclassificeerd als een AI-systeem?"

"Er bestaat ook het gevaar dat de EU achterop raakt bij de rest van de wereld als zij AI alleen maar als een negatieve kracht beschouwt die moet worden ingeperkt. De EU moet daarom nieuwe controles in evenwicht brengen met investeringen die onderzoek aanmoedigen naar positieve use cases voor AI die kunnen helpen bij het oplossen van 's werelds meest urgente uitdagingen. Het Verenigd Koninkrijk loopt hierin bijvoorbeeld voorop. De Britse regering heeft de intentie uitgesproken om een flexibele benadering van AI-regulering te hanteren, waarbij onnodige regels worden vermeden en kansen worden bevorderd."

Reitbauer: "Aangezien AI-innovatie zo snel evolueert, zal het cruciaal zijn voor organisaties om te investeren in hun vermogen om AI-systemen te exploiteren en ervoor te zorgen dat alle belanghebbenden goed op de hoogte zijn én de controle behouden. Om dit te doen moeten ze zich concentreren op de principes van verantwoorde AI, de ontwikkeling van open modellen ondersteunen en investeren in capaciteiten zoals AI observability. Dit zal hen helpen om een goede werking en een goed begrip van AI te bereiken, en hen de mogelijkheid geven om onverwacht gedrag van AI-modellen te corrigeren."