‘AI is de nieuwe kernenergie’

Aimee van Wynsberghe, Assistant Professor of Ethics and Robotics aan de Technische Universiteit Delft, is een van de meest prominente onderzoekers op het gebied van technologische innovatie en ethiek. Naarmate de rol van technologie in bedrijf èn maatschappij groter wordt, neemt ook het aantal ethische vragen over de gevolgen ervan toe. Organisaties doen er daarom goed aan in hun innovatieplannen ook de ethische component aandacht te geven.

Door Marco van der Hoeven

“Innovatie, zeker als dat gebeurt met Artificial Intelligence en Robotics, gaat vaak zou snel dat wet- en regelgeving en de politiek bij kunnen houden wat er allemaal mogelijk is met technologie”, zegt Aimee van Wynsberghe, Assistant Professor of Ethics and Robotics aan de Technische Universiteit Delft. “Dit betekent dat wat innoverende bedrijven en innovatiemanagers doen weliswaar wettelijk toegestaan is, maar ethisch is het niet altijd juist. In die gevallen loopt de wetgeving gewoon achter op de mogelijkheden van de technologie.”

Zelf doe zij onderzoek naar ethiek in een academische omgeving, waar ze kijkt naar de ethische vraagstukken die in het bedrijfsleven ontstaan. Komen bijvoorbeeld in bepaalde situaties fundamentele rechten in gevaar? Denken we er überhaupt wel aan of nieuwe ontwikkelingen goed zijn voor de maatschappij? “Sociale media brengen menen samen, maar we zien ook steeds vaker negatieve effecten. Hoe ga je om met bedrijven die wel wettelijk in hun recht staan, maar ethische normen van landen of culturen schenden?”

Vooroordelen in algoritmen

“Ik onderzoek dus de vraagstukken die daaruit voortkomen: privacy, data verzamelen, gebruik van materialen. We hebben het wel vaak over zaken als vooroordelen in algoritmen, maar kijken minder naar de impact op het milieu die de productie van hardware voor datacenters bijvoorbeeld veroorzaakt, of het effect van batterijen in smartphones, en robots.”

Naast het onderzoek in de academische wereld is zij ook op een meer praktische manier met ethiek bezig, als co-founder van de Foundation for Responsible Robotics. Dat is een non-profit- organisatie die gevestigd is in Nederland, die het onderzoek naar ethiek probeert om te zetten in praktische toepassingen ervan. De belangrijkste activiteit op dit moment is het ontwikkelen van een keurmerk voor robotics, te vergelijken met het Fairtrade-keurmerk voor koffie.

Mensenrechten

“Bij dit keurmerk kijken we naar verschillende aspecten, van gebruikte materialen tot data-gebruik en opslag. Daarmee willen we in gesprek gaan met bedrijven om te kijken of ze in aanmerking komen voor het keurmerk. Het gaat om meer dan alleen de financiële en economische kant van innovatie. Het is belangrijk om ook zaken als mensrechten in beschouwing te nemen.”

Zij is ook lid van de High Level Expert Group voor Artificial Intelligence van de Europese Commissie. “Wij werken aan het opstellen van de AI Ethics-Richtlijnen. Die zijn niet wettelijk bindend, er is een verschil tussen ethiek en wetgeving. Ethiek is wat ‘rationele’ mensen vinden over het beschermen van andere mensen en onze leefwereld. Wetgeving is een verplichting om iets te doen, anders volgt een sanctie.”

Ethische richtlijnen kunnen echter wel een licht schijnen op gebieden waar we wetgeving nodig hebben. “Dat kan het geval zijn als blijkt dat voortgang in een bepaalde richting ingaat tegen de fundamentele rechten van mensen. We zien dat veel bedrijven nog niet veel aandacht hebben voor de ethische kant van innovatie, maar dat zal met deze richtlijnen waarschijnlijk snel veranderen.”

Transparant

“En als dit eenmaal onderdeel wordt van de publieke discussie zullen bedrijven wel met een antwoord moeten komen. Want misschien zullen ze wel minder succesvol zijn als ze niet de ethische AI-richtlijnen volgen. Bijvoorbeeld omdat consumenten besluiten dan maar een ander product te kopen. Kopers laten met hun geld weten dat ze bepaalde waarden belangrijk vinden. Dit betekent voor bedrijven weer dat zij transparant moeten zijn.”

“Het gebeurt al met eten, we moeten ervoor zorgen dat die transparantie er ook is bij robotics. Want de ontwikkeling van die technologie gaat snel, en we moeten ervoor zorgen dat we er niet op een bepaald moment achter komen dat er allerlei negatieve effecten zijn waar we vooraf niet over hebben nagedacht. De draf van de richtlijnen is in december gepubliceerd. Op dit moment worden de reacties verwerkt. De nieuwe richtlijnen zullen in april in Brussel worden gepresenteerd.”

Toegankelijk

Het zijn geen wereldwijde richtlijnen, ze zijn primair gericht op Europa. “We hebben gekeken naar de rechten en de waarden van Europa. In andere gebieden van de wereld wordt bijvoorbeeld over mensenrechten weer anders gedacht. Deze richtlijnen zijn vooral bedoeld voor Europese burgers en mensen die zich bijvoorbeeld als vluchteling op Europees grondgebied bevinden. Mar dat hoeft landen als de Verenigde Staten of China er niet van te weerhouden ze ook te omarmen. En naar analogie van de GDPR geeft dit aan dat, wanneer je producten wilt verkopen in Europa, je aan de richtlijnen moet voldoen.”

“We werken al met diverse bedrijven samen om te kijken hoe we die richtlijnen kunnen toepassen. We willen dat onze richtlijnen zo toegankelijk en praktisch mogelijk zijn. Dit betekent dat we zowel met het management als de datascientist praten. Zij zijn tenslotte degenen die achter een computer zitten en moeten beslissen of ze voor de meer eerlijke of de meer veilige aanpak kiezen. Want vaak gaat het om de balans tussen die twee waarden. We willen weten hoe ze die beslissingen nemen.”

Chief Ethics Officers

Dat leidt volgens haar niet tot een one size fits all-benadering. “Ten eerste omdat ethiek niet zo werkt, en ten tweede omdat we nog iedere dag bijleren over wat er allemaal kan met AI. Zoals er nu Chief Data Officers zijn in bedrijven zullen er in de toekomst dan ook Chief Ethics Officers zijn bij organisaties. Waar kleinere bedrijven zich dat niet kunnen veroorloven zullen daar adviserende bedrijven een rol gaan spelen, die bijvoorbeeld een transparantierapport opstellen. Dat zal nieuwe banen opleveren, en leiden tot een andere cultuur bij bedrijven.”

“Het gaat erom dat zij zich bewust worden van de ethische gevolgen van technische ontwikkelingen. Bij grote bedrijven zien we die ontwikkeling al, bedrijven als Google en DeepMind die de toekomst vormgeven zetten al ethici in hun organisatie. Dat zullen we bij steeds meer bedrijven gaan zien.”

Omarmen

De reacties variëren per bedrijf. “Er zijn grote bedrijven die het graag omarmen., Ze hebben alleen een beetje hulp nodig. Anderen zijn bang dat het de innovatie vertraagt. Maar je moet je afvragen of we door moeten gaan zonder rekening te houden met de gevolgen van snelle innovatie. Move fast en break things, het motto van Silicon Valley, is misschien niet meer vol te houden.”

Daarnaast kun je ethiek gebruiken om te komen tot innovatie. Bijvoorbeeld in het ontwikkelen van duurzame producten, zoals de Fairphone. Dat leidt dus tot innovatie op andere gebieden waar de maatschappij ook nog eens baat bij heeft.”

Moeten mensen zich zorgen maken over de richting waarin AI en Robotics zich ontwikkelen? “Voor mij is het belangrijkste waar we ons zorgen over moeten maken niet de black box van het algoritme. Dat hoor je vaak, omdat we geen idee hebben hoe het algoritme functioneert. Zorgwekkender is de black box die wordt gevormd door de hele keten. Hoe zorgen we ervoor dat mensen in de hele keten juist worden behandeld bijvoorbeeld. Dat hebben we niet goed gedaan bij de productie van kleding. Hoe kunnen we een vergelijkbare situatie voorkomen in ontwikkelen en testen van AI en robotics.”

Uitgangspunt

Bovendien weten we niet wie verantwoordelijk is als niet bekend is waar de data vandaan komt. “Als er iets mis gaat moet je kunnen weten waar het in de data mis is gegaan. En we hebben de kans dat nu goed te organiseren in de ontwikkeling AI. We ontwikkelen nu met AI iets waar mensen al eeuwen van dromen. Laten we daar met alle slimme mensen die daar aan bezig zijn goed over nadenken. AI is de nieuwe kernenergie.”

Hoe gaan bedrijven om met innovatie en ethiek? “Wat mij altijd verbaast is dat er zoveel technologische toepassingen zijn waarvan je je afvraagt waarom ze gemaakt zijn. Wat was het doel er achter? Soms gebeurt technologische innovatie voor de technologische innovatie. Je zou ook kunnen overwegen om technologie in te zetten om daadwerkelijke problemen in de maatschappij aan te pakken. Dat is waar ethiek een rol speelt, gebruik dat als uitgangspunt. En zorg voor transparantie, waarin je uitlegt waarom bepaalde beslissingen genomen zijn, en andere beslissingen niet.”