Is een nieuwe AI-winter in aantocht?

Nadat in 2011 bij de populaire Amerikaanse televisiequiz Jeopardy! twee menselijke deelnemers door een initiële versie van IBM Watson werden verslagen, kondigde IBM in 2012 met veel fanfare aan dat AI het volgende belangrijkste strategische initiatief zou zijn om de al jaren kwakkelende business nieuw leven in te blazen. Daarbij mikte IBM met Watson Health vooral op de gezondheidszorg, en in het bijzonder het oncologische vakgebied. Daartoe werd een forse organisatie opgetuigd die op het hoogtepunt 7,000 medewerkers zou bedragen, en werden verschillende strategische samenwerkings-verbanden met vooraanstaande Amerikaanse zorginstellingen aangegaan. Na jaren van opgeblazen berichtgeving werd in 2017 echter duidelijk dat Watson Health bij lange na niet opleverde wat aan-vankelijk was beloofd, in veel gevallen niet leidde tot enige toegevoegde waarde voor de gezond-heidszorg en in sommige gevallen zelfs tot medische fouten. In de jaren daarna werd dit strategische initiatief geleidelijk aan afgebouwd en werden de resterende activiteiten tegen een beschamend bedrag van ongeveer 1 miljard dollar in 2022 verkocht aan een private investeerder. Voor zover traceerbaar bedroegen de kosten voor IBM en gebruikers van IBM Watson minimaal 10 miljard dollar.

Apple pakte het een stuk voorzichtiger aan, en was nogal terughoudend in de berichtgeving over Project Titan dat in 2014 van start ging. De bedoeling was een volledig autonome zelfsturende personenwagen op de markt te zetten – een voertuig zonder gebruikelijke bedieningsmiddelen zoals een stuurwiel, gas- en rempedalen, en een schakelbare versnellingsbak. Ook het design zou spectaculair moeten zijn: het uiteindelijke product zou een herhaling van het commerciële succes van Apple’s kroonjuweel – de iPhone – moeten worden en Tesla van de troon moeten stoten. Evenals Watson Health bleek ook dit project te hoog gegrepen. In februari 2024 werd besloten de ontwikkeling stop te zetten en de circa 2,000 medewerkers over te hevelen naar andere initiatieven van Apple op het gebied van AI. Het totale project heeft Apple naar schatting 10 miljard dollar gekost en geen cent aan omzet opgeleverd.

Voor grote ondernemingen zoals Apple en IBM si de omvang van de geleden verliezen niet vreselijk problematisch, maar is de reputatieschade door dergelijke mislukkingen vele malen groter. Deze grandioos gefaalde projecten geven ook een inkijk in de wijze waarop strategische initiatieven tot stand komen, en op de weinig invloedrijke rol die materiedeskundige medewerkers daarbij spelen. Bij IBM was David Ferrucci de leider van het team dat het bij Jeopardy! winnende computersysteem ontwikkelde, en ontving daarvoor van IBM de buitengewoon eervolle (en zeldzame) titel van IBM Fellow. Het jaar daarop vertrok Ferrucci in stilte bij IBM, zeer waarschijnlijk gefrustreerd doordat zijn waarschuwingen over de beperkte mogelijk-heden van IBM Watson door het topmanagement van IBM volledig in de wind werden geslagen. Autopilot software director Christopher ‘CJ’ Moore stapte eind 2021 van Tesla over naar Apple, zeer waarschijnlijk omdat hij het oneens was met Elon Musk’s onrealiseerbare claim dat Tesla aan het einde van dat jaar een volledig autonome auto op de markt zou kunnen brengen. Moore verliet Apple echter alweer na een half jaar, waarschijnlijk eveneens omdat hij zich niet kon vinden in Apple’s onrealistische ambitie. Ferrucci en Moore zijn voorbeelden van buitengewoon kundige en internationaal vermaarde professionals waarnaar door de top van hun organisaties om opportunistische redenen onvoldoende werd geluisterd – een patroon dat bij innovatieve ontwikkelingen vaak is te zien (en niet alleen bij commerciële ondernemingen).

Het falen van Apple en IBM staan niet op zichzelf. Ook over veel andere ontwikkelingen op het gebied van AI bestaan inmiddels gegronde twijfels. Zo werd het alom bewonderde ChatGPT vorig jaar door Vincent Icke in NRC terecht gekwalificeerd als ‘stochastische papegaai’, waarmee hij aangaf dat ChatGPT op het eerste gezicht mooie verhalen weet te generen maar absoluut niet begrijpt wat het zegt en ook de middelen niet heeft om het waarheidsgehalte van de geleverde teksten te verifiëren. Gebrek aan eigenstandig inzicht geldt eigenlijk voor alle huidige AI-oplossingen die zonder uitzonde-ring zijn gebaseerd op algoritmes die weliswaar uitstekend patronen kunnen ‘herkennen’ – met vaak verrassende resultaten – maar die geen idee hebben waar het allemaal over gaat en welke impact de resultaten kunnen hebben op de omgeving. Ernstige fouten bij het gebruik liggen dus op de loer, en het ziet er voorlopig niet naar uit dat deze kloof tussen pure number crunching en ‘echte’ kunstmatige intelligentie binnen afzienbare tijd zal worden overwonnen.

Het is dan ook niet verwonderlijk dat overheden inmiddels wakker beginnen te worden en wet- en regelgeving ontwikkelen om de grote risico’s van AI – zoals misbruik van persoonlijke gegevens, criminele misleiding, inbreuken op de nationale veiligheid, en soms zeer ernstige ongevallen met ‘intelligente’ auto’s, robots en drones – te voorkomen of in elk geval zoveel mogelijk te beperken. Ook deze ‘tegenbeweging’ leidt tot meer terughoudendheid bij investeerders en vergroot de kans dat ontwikkelingen op het gebied van AI in de komende jaren aanzienlijk minder onstuimig zullen verlopen dan in de afgelopen periode het geval was.

Door: Bert Landman, Managing Partner, Landman Consultancy