Grote meerderheid voor AI Act in eerste stemming in Europees Parlement

Het gaat om een stemming in de Internal Market Committee and the Civil Liberties Committee, een vakcommissie van het Europees Parlement. Deze stemde met 84 stemmen voor en 7 stemmen tegen met een grote meerderheid voor de wetgeving.

Risicogroepen

De AI Act deelt AI-systemen op in risicogroepen. Het overgrote deel van de regelgeving die in de wet is vastgelegd heeft betrekking op AI-systemen die in de hoogste risicogroep vallen. Ook moet er een keurmerk komen voor deze risicovolle AI-systemen, die alleen nog op de Europese markt mogen verschijnen indien zij aan de eisen voldoen.

Een deel van de AI-systemen wordt verboden. Het gaat dan onder meer om systemen die het gedrag van mensen beoordeelt of in realtime gebruik maakt van biometrische identificatie.

Altijd menselijk toezicht

De wetgeving moet onder meer zeker stellen dat er altijd menselijk toezicht is op AI-systemen, die veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk moeten zijn. Dit betekent onder meer dat het voor gebruikers altijd duidelijk moet zijn dat zij met een AI te maken hebben. Ook moet de werking van een AI-systeem altijd duidelijk zijn. Daarnaast moet de wet leiden tot een uniforme definitie van 'technologie-neutrale' AI.

In de wetgeving is ook specifiek aandacht voor zogeheten 'foundation models', het fundament waarop AI-tools zijn gebouwd. Ontwikkelaars van dergelijke modellen moeten onder meer een robuuste bescherming van de rechten, gezondheid, veiligheid, het milieu, de democratie en de rechtsgang garanderen. Dit betekent onder meer dat zij risico's moeten beoordelen en mitigeren, moeten voldoen aan eisen op het gebied van ontwerp, informatie en milieu-impact, en zich moeten registreren in een Europese database.

Plenaire stemming

Komende maand volgt een plenaire stemming in het Europees Parlement over de European AI Act. Indien het Europees Parlement zich hierbij positief uitspreekt over het voorstel, kunnen de onderhandeling tussen het Europees Parlement en de Europese Raad over de exacte invulling van de wet van start gaan. Dit moet leiden tot een definitieve wet begin 2024.