IBM software service brengt vooroordelen over AI aan het licht
19-09-2018 | door: Redactie

IBM software service brengt vooroordelen over AI aan het licht

Als Nederland volgens IBM een rol wil blijven spelen in de economie van de toekomst, moeten meer bedrijven AI integreren en optimaal inzetten in bedrijfsoperaties om een toegevoegde meerwaarde te creëren. Nederlandse bedrijven zijn overtuigd van die meerwaarde, maar de implementatie op grote schaal is geen eenvoudige opdracht. Wat houdt hen tegen? Uit een AI-studie van IBM blijkt dat acht op de tien bedrijven (82%) AI wil integreren, maar bijna twee op de drie bang is voor aansprakelijkheidskwesties (60%) en bij zes op de tien de vaardigheden ontbreken binnen het team om AI te gebruiken (63%). 

Nederlandse organisaties die de stap willen zetten van kleine AI-proefprojecten naar implementaties op grote schaal, vrezen volgens de AI-studie dat ze de controle over potentieel gerelateerde risico’s zullen verliezen. Centrale vraag: hoe neemt AI beslissingen en hoe kunnen bedrijven een eventuele vooringenomenheid detecteren en oplossen om die risico’s in te dammen? 

Om daar een antwoord op te bieden, introduceert IBM een nieuwe softwareservice. Deze software geeft niet alleen voortdurend uitleg over hoe de AI-beslissingen worden genomen – en wanneer deze genomen worden – maar brengt ook eventuele vooroordelen ten aanzien van AI aan het licht. Het detecteert potentieel verontrustende resultaten als ze zich voordoen en geeft aanbevelingen om de AI-bias weg te werken. 

De innovatie volgens IBM is een grote stap vooruit: de IT-industrie kan haar ‘trust principles’ eindelijk concreet maken:

Bedrijven krijgen inzage onder de AI-motorkap, waardoor ze voldoen aan de GDPR-voorschriften voor AI-gebruik; 

De technologie werkt met modellen die opgebouwd zijn uit een breed scala aan machine learning frameworks en AI build-environments, zoals Watson; 

IBM biedt ook open-sourcing bias detection capabilities om de tech-industrie aan te moedigen om samen te werken om AI-bias-detectie en -mitigatie te bevorderen. Deze is ontwikkeld door IBM Research in deIBM Fairness 360-toolkit.

De ontwikkeling van de tool is voor IBM deels van strategisch belang; het markeert het begin van een vastberaden keuze om niet alleen Watson AI-oplossingen te bieden, maar ook tools waarmee bedrijven AI effectief kunnen beheren zo meldt de leverancier.

Terug naar nieuws overzicht
Software