Slimme technologie in voetbalstadions nog steeds een uitdaging

Spelers, personeel en bezoekers van voetbalclubs in Nederlandse stadions zijn tijdens wedstrijden regelmatig geconfronteerd met racisme en discriminatie, waaronder gezangen, beledigingen en intimidatie. Onder de noemer Ons Voetbal Is Van Iedereen onderzoeken de KNVB, Eredivisie, Keuken Kampioen Divisie en de Nederlandse overheid sinds 2019 geschikte maatregelen om dit probleem aan te pakken, waaronder het gebruik van slimme technologie.

Met het idee dat slimme technologie zou kunnen bijdragen aan een adequaat antwoord op wangedrag, of zelfs helpen om het in sommige gevallen te voorkomen, werd de Smart Technology Challenge gelanceerd. Vier consortia van stadions, technologiebedrijven en voetbalclubs PEC Zwolle, PSV en Feyenoord onderzochten het gebruik van elektronische pre-registratie van wedstrijdbezoekers en de detectie van problematisch gedrag met behulp van slimme audio- en visuele detectiesystemen.

Risico's

Vanwege de ethische en juridische risico's die aan deze systemen verbonden zijn, werd TILT gevraagd om advies te verlenen. Hoe voorkom je onnodige schendingen van de privacy van supporters? Hoe zorg je ervoor dat digitale technologie zelf geen discriminerende praktijken uitoefent? En wat valt er precies onder 'racistisch' gedrag?

TILT identificeerde verschillende knelpunten. Zo waren supporters slechts spaarzaam betrokken bij de productontwikkeling en was er onvoldoende duidelijkheid over welke gedragingen als ongewenst zouden worden geclassificeerd. Er waren echter ook successen. Tests toonden aan dat slimme technologie het mogelijk maakte om sneller op incidenten te reageren. Met de juiste aanpak was samenwerking met supporters inderdaad haalbaar.

Tien criteria voor toepassing van slimme technologie

Gebaseerd op deze en andere reflecties, schetst het TILT-rapport 10 algemene juridische, ethische en organisatorische criteria voor de toepassing van slimme technologieën in stadions en soortgelijke omgevingen:

1. Zorg voor effectieve systemen: Onderzoek voordat u een systeem ontwikkelt altijd of de verwachte voordelen de investering rechtvaardigen. Wat wilt u precies bereiken, wat is de toegevoegde waarde van de technologie en kan hetzelfde effect worden bereikt met minder ingrijpende maatregelen?
2. Investeer in publieke steun: Het beschermen van supporters, spelers en personeel vereist een open dialoog met alle partijen. Dit verkleint het risico dat de technologie ondermijnd wordt en bevordert de noodzakelijke dialoog tussen verschillende groepen supporters.
3. Zorg voor een juridische basis: Juridische garanties zijn wenselijk voor publieke steun en zijn vereist onder de AVG en de AI-wet. Het verwerken van persoonsgegevens op basis van toestemming is in dergelijke situaties niet geschikt.
4. Monitor de afstemming tussen doelen en middelen: Verschillende middelen, zoals het vergroten van inzicht in wie aanwezig is in het stadion, het herkennen van gezangen, het verstoren van gezangen en het bevorderen van positieve betrokkenheid van fans, werden voorgesteld als mogelijke oplossingen. Het was echter niet altijd duidelijk hoe deze bijdragen aan de bestrijding van racisme en discriminatie, met het risico dat technologie een doel op zich zou worden.
5. Investeer continu in sterke samenwerkingsrelaties: Veel partijen zijn betrokken bij voetbalwedstrijden. Een open cultuur, waar constructieve en kritische feedback de norm is, is essentieel voor het verantwoordelijk uitwisselen van gegevens en het voeren van een constructief debat.
6. Zorg voor goede technische en organisatorische integratie: Correcte integratie is essentieel voor effectiviteit en dus voor de legitimiteit van een systeem. Dit ondersteunt ook de publieke acceptatie. Bestaande en toekomstige juridische kaders, zoals de AI-wet, leggen eisen op die in rekening moeten worden gebracht, vooral voor systemen met een hoog risico.
7. Focus op minimale en passende gegevensverwerking: Wanneer het doel van slimme systemen is om discriminatie of racisme te herkennen en te voorkomen, is het cruciaal om te investeren in duidelijke standaarden, zoals goede definities; anders wordt kwalitatieve en goed gedefinieerde gegevensverzameling onmogelijk.
8. Vermijd en voorkom bias in technologische assistentie: Bias of discriminatie door technologie is een reëel risico bij bestaande systemen en technologieën. Als dit een gevolg is van het technologische ontwerp, kan een dergelijk systeem niet 'juist' worden gebruikt, en moeten alternatieve methoden worden ontwikkeld.
9. Vermijd chilling effects en onrechtmatige nudging: Wanneer mensen weten dat ze worden gemonitord, kunnen ze aarzelen om zichzelf uit te drukken (chilling effect). Dit kan ook van invloed zijn op groepen die al slachtoffer zijn van discriminatie. Voorzichtigheid is ook geboden met nudging, zoals slecht onderbouwde of discriminerende aannames over gedrag en uiterlijk.
10. Zorg voor menselijke controle en autonomie van bezoekers: Menselijk toezicht op systemen en de beslissingen die ze helpen nemen, is een juridische en ethische vereiste. Dit vereist goed geïnformeerd personeel en bezoekers, die zo beslissingen kunnen aanvechten, bijvoorbeeld.

Pilots in diverse stadions

In vervolgpilots worden nu twee pijlers benadrukt: weten wie er in het stadion is via Identity Based Access of digitale pre-registratie, en het opnemen en vastleggen van audio en video, mogelijk gecombineerd met digitale pre-registratie. Deze technologieën zullen tot 2025 in verschillende stadions blijven worden getest.