AI-geletterdheid dicht de kloof tussen angst en ambitie

Adil Bohoudi opende de discussie met een confronterende vraag: hoeveel AI-toepassingen gebruiken we dagelijks, van het moment dat de wekker gaat tot het slapengaan? De schatting loopt op tot meer dan honderd, van slimme assistenten tot gepersonaliseerde aanbevelingen op Netflix en Zalando. AI is overal.

Bohoudi ziet dat er bij organisaties twee angsten domineren: enerzijds de ‘fear of missing out’ (FOMO). Niemand wil de boot missen en achterblijven. En anderzijds de angst voor reputatieschade. Want ook niemand wil op de voorpagina staan met een AI-blunder. De sleutel tot succes? AI-geletterdheid. Organisaties moeten leren navigeren tussen kansen en risico’s en dat begint met bewustwording en kennisdeling.

De rol van AI-kernwaarden

Tijdens de tafeldiscussie met privacy-expert Emerald de Leeuw-Goggin, AI-professor Esther van Egerschot en AI-governance expert Vonne Laan werd benadrukt dat AI-geletterdheid verder gaat dan training. Bedrijven moeten AI-kernwaarden opstellen die richting geven aan verantwoord AI-gebruik. Een aantal veelvoorkomende kernwaarden als het gaat om AI zijn ‘transparantie’ - maak duidelijk wanneer AI wordt ingezet en hoe beslissingen tot stand komen-, ‘verantwoordelijkheid’ - zorg dat AI-gebruik aansluit bij ethische richtlijnen en wetgeving-, ‘cybersecurity’ - bescherm data en AI-systemen tegen misbruik- en ‘duurzaamheid’ - AI moet bijdragen aan een betere en eerlijkere samenleving-. Emerald de Leeuw-Goggin: ‘Pagina’s AI-beleid beklijven niet bij medewerkers, terwijl een stuk of vier à vijf kernwaarden medewerkers helpen om echt in het moment de juiste beslissing te nemen.’

Waar beginnen?

AI-geletterdheid wordt steeds urgenter, zeker met de komst van de AI Act. Maar waar begin je? De experts gaven duidelijke adviezen. Start met een training voor alle medewerkers, was het eerste advies. Dit is een basisvereiste. Ten tweede is het zorgen voor overzicht een belangrijke stap: weet welke AI-toepassingen binnen je organisatie worden gebruikt. Tot slot is het belangrijk om AI-geletterdheid te integreren in de bedrijfscultuur, niet als een eenmalige verplichting, maar als continu proces. Zowel de organisatie als AI ontwikkelen zich immers voortdurend.

AI bij de overheid

Ewout Irrgang, vice president van de Algemene Rekenkamer, deelde zijn onderzoek naar AI-gebruik binnen 70 overheidsorganisaties. Wat blijkt: bij de helft ontbreekt de balans tussen kansen en risico’s.

Kansen

Binnen de overheid zijn veel kansen voor AI. ‘AI heeft processen drastisch versneld. Waar voorheen procedures dagen duurden, kunnen ze nu in seconden worden uitgevoerd’, vertelt Irrgang. Dit biedt kansen voor een efficiëntere overheid, want AI helpt bijvoorbeeld bij het verwerken van belastingvragen, het samenvatten van vergaderingen en het beantwoorden van Kamervragen. Ook zorgt het voor een betere dienstverlening doordat AI-gebaseerde systemen burgers helpen, zoals bij de politie voor efficiëntere aangiftes en bij het ministerie van EZK voor berekeningen. Ook bij het detecteren van fouten in bijvoorbeeld uitkeringen en toeslagen kan AI helpen.

Risico’s

Maar er zijn ook risico’s, zeker als een goed IT-beheer en AI-geletterdheid ontbreken. Ten eerste op het gebied van veiligheid. Ondoordacht gebruik van clouddiensten binnen de overheid kan leiden tot datalekken, ongeautoriseerde toegang en afhankelijkheid van buitenlandse techbedrijven. Van een kwart van de clouddiensten weet het ministerie niet eens of het om een publieke of private cloud gaat. Voorafgaand aan het Conclusion event presenteerde Irrgang het rapport hierover aan de Tweede Kamer. Een tweede risico is de soevereiniteit. Wie heeft daadwerkelijk de controle over onze data en AI-modellen? En tenslotte zijn bias en discriminatie risico’s om rekening mee te houden. AI-algoritmen zijn immers zo objectief als de data waarmee ze worden getraind. Zonder zorgvuldige monitoring sluipen onbewuste vooroordelen in systemen, wat kan leiden tot oneerlijke beslissingen, uitsluiting en schending van fundamentele rechten. Transparantie en verantwoording zijn essentieel.

De boodschap van het event was helder: AI is here to stay. Bedrijven en overheden moeten de balans vinden tussen innovatie en verantwoorde inzet. AI-geletterdheid is daarbij de sleutel.