KPMG ontwikkelt AI In Control om gebruik algoritmen te toetsen

Om een verantwoord en betrouwbaar gebruik van kunstmatige intelligentie in de besluitvorming bij publieke diensten te waarborgen heeft KPMG AI In Control ontwikkeld. AI In Control omvat een aantal instrumenten die organisaties helpt controles uit te voeren op de algoritmen.

"Deze instrumenten helpen bij het beheren en beschermen van de integriteit, de kwaliteit en de nauwkeurigheid van beslissingen die op basis van AI-technologieën worden gegenereerd", zegt Sander Klous, partner bij KPMG en internationaal verantwoordelijk voor de dienstverlening op het gebied van AI Assurance. Klous: "Algoritmen dicteren in toenemende mate ons leven. Zij bepalen hoeveel krediet je kunt krijgen, naar welke school iemand gaat, stellen gezondheidsdiagnoses en voorspellen criminele activiteiten. Het toenemende gebruik van kunstmatige intelligentie vereist dat de technologie betrouwbaar is en het gebruik ethisch verantwoord. Nu steeds meer organisaties op weg zijn naar een digitale transformatie, is het van groot belang dat bestuurders en leidinggevenden die dat proces begeleiden kunnen vertrouwen op de analyses en beslissingen die algoritmen voor hun organisatie genereren. De groeiende behoefte aan vertrouwen in beslissingen die door AI worden gegenereerd, brengt met zich mee dat de aandacht nu ook uitgaat naar organisaties die deze technologieën ontwikkelen en naar hun verantwoordelijkheid voor het waarborgen van de kwaliteit."

Amsterdam toetst digitale dienstverlening
Met AI In Control is KPMG in staat de black box van algoritmen te openen en te voorzien van de juiste controlemechanismen. "Op deze manier kan de mate van transparantie worden verkregen die bijdraagt aan het vertrouwen van de burger in de beslissingen die onze klanten nemen", zegt Frank van Praat van KPMG's IT Advisory & Assurance. De gemeente Amsterdam zet deze nieuwe dienst in om de kwaliteit te toetsen van de algoritmen die de stad inzet bij haar digitale dienstverlening. Amsterdam heeft een open source systeem ontwikkeld waarbij bewoners en bedrijven eenvoudig online meldingen kunnen indienen, bijvoorbeeld over afval op straat. Zodra het verzoek is ingediend, identificeert een algoritme het soort melding en adviseert welke afdeling het verzoek afhandelt. Van Praat: “In de nabije toekomst zal de applicatie ook de prioriteit van de aanvraag bepalen. Door zelflerende technologie zal de besluitvorming van het algoritme in de loop van de tijd verbeteren. AI in control stelt de gemeente in staat deze processen te begeleiden en te bewaken.”

Cities Coalition for Digital Rights
Samen met Barcelona en New York City heeft Amsterdam onlangs de Cities Coalition for Digital Rights opgericht. "Amsterdam ondergaat een digitale transformatie", zegt Ger Baron, Chief Technology Officer van de gemeente Amsterdam. Baron: "We willen de digitale rechten van alle Amsterdammers beschermen en we hebben de verantwoordelijkheid om transparant te zijn over de algoritmes die wij maken om gemeentelijke diensten te verbeteren."

Samenwerking met Cathy O'Neil
Bij de ontwikkeling van het instrumentarium om algoritmen te kunnen controleren werkt KPMG nauw samen met Cathy O'Neil, CEO van O'Neil Risk Consulting en Algorithmic Auditing, Inc. (ORCAA) en auteur van het boek Weapons of Math Destruction. O'Neil: "De samenwerking stelt ons in staat om ons te concentreren op de ethiek en verantwoording rond het gebruik van algoritmen en het beoordelingsproces te combineren met de ervaring die KPMG heeft op het gebied van governance en assurance. In het huidige AI-landschap is er een dringende behoefte om vooringenomenheid, rechtvaardigheid en verantwoordelijkheid te beheren. Dit soort samenwerking stelt ons in staat in deze behoefte te voorzien."