De griezelvallei van robots zoals ChatGPT

Roboticus Masahiko Mori beschreef in 1970 in zijn boek The uncanny Valley het ongemakkelijke gevoel dat mensen krijgen als namaak heel erg natuurlijk wordt. Mori’s hypothese stelt dat naarmate het uiterlijk van een robot menselijker wordt, de emotionele reactie van waarnemers steeds positiever wordt. Totdat een punt wordt bereikt dat het ‘te echt’ wordt. Dan slaat die positieve reactie opeens om in een sterk negatieve reactie van angst en afkeer. Dit gebied tussen een ‘enigszins menselijke’ en ‘volledige menselijke’ robot roept een horror-gevoel op.

Té menselijk

Een griezelige verschijning van een entiteit die zichtbaar niet menselijk is, maar daar angstig dichtbij komt. Pas als de robot niet meer te onderscheiden is van de mens, verdwijnt de angst en neemt de empathie weer toe. Dit gebied noemde Mori ‘the uncanned valley’, een vallei die zo diep is dat we het angstig vinden, de griezelvallei. Mori heeft veel onderzoek gedaan naar de emotionele reacties van mensen op het gebied van robotica en automatisering.

De bekende Asimo-robot is ontwikkeld door een van zijn studenten. Asimo is een door Honda gemaakte mensachtige robot die een avatar achtige verschijning heeft. De naam werd gekozen ter ere van Isaac Asimov een van de drie grootste science fiction schrijvers die vooral veel robot-verhalen schreef. De conclusie van Mori’s onderzoek was dat we techniek niet overdreven menselijk moesten maken, omdat dat voor ons als mens te griezelig wordt.

Déjà vu met ChatGPT

Veertig jaar geleden was het land in rep en roer. Onze fabrieken zouden worden overgenomen door industriële robots, terwijl de werkloosheid op dat moment al historisch hoog was. Begin 1981 begon ik als onderzoeker bij STT aan een onderzoek naar de toekomst van de fabriek. Momenteel beleef ik een déjà vu met de komst van de tekstrobots die onze kantoren zouden gaan overnemen. ChatGPT heeft in korte tijd voor velen duidelijk gemaakt wat met machine learning en kunstmatige intelligentie mogelijk is. Een ontwikkeling die al decennia gaande is, net als eerder met fabrieksautomatisering. Zodra een machine op herkenbare wijze menselijk werk kan overnemen, wordt die ontwikkeling voor een groot publiek herkenbaar. Deels griezelig maar ook angstaanjagend omdat bestaand werk wordt bedreigt te verdwijnen.

Mens versus machine

Taalproductie wordt als typisch menselijke vaardigheid gezien. Als techniek die vaardigheid (bijna) evenaart, komt techniek opeens onverwacht heel dicht bij een herkenbare kwaliteit van de mens. In een interessant artikel vraagt Wannes Gyselinck zich af waarom we zo’n angst voor robotteksten hebben. Inderdaad, chatGPT kan teksten schrijven die heel erg menselijk lijken. Gebaseerd op miljoenen voorbeelden en feiten die bij deze computer zijn ingevoerd, kan deze intelligente tekstverwerker – mits we hem hiervoor de juiste instructies geven – zelfstandig verhalen schrijven.

De mens heeft zich ten opzichte van dieren kunnen ontwikkelen door gereedschappen te maken en gebruiken. De intelligentie en vaardigheid om techniek in te zetten om werkzaamheden makkelijker of zelfs automatisch uit te voeren. Alle soorten materialen waren al in de oertijd bruikbaar voor allerhande zaken. Van een hol bot kon men een fluit of een wapen maken, voor het bot zelf maakte het niet uit. Dat is altijd zo gebleven, techniek is op zich neutraal, onze intelligentie en vaardigheid het te gebruiken, bepaalt uiteindelijk de toepassing.

Science fiction

Robots hebben altijd de fantasie van mensen aangewakkerd. In het boek van Mary Shelley al wordt de namaakmens Frankenstein ten tonele gevoerd. Een zichtbaar kunstmatige mens die echter ook gevoelens bleek te hebben en opeens akelig echt werd. Er zijn in de loop der jaren honderden succesvolle films gemaakt met robots in de hoofdrol. Maar altijd waren en de spraak en de teksten van die robots herkenbaar machinaal. De ontwikkeling van herkenbare spraak en nu zelfs menselijke content maakt de ontwikkeling van ‘deep fake’ steeds griezeliger. Avatars met een menselijk uiterlijk, een menselijke stem die via ChatGPT menselijke conversaties met ons kunnen gaan houden, zit midden in de griezelvallei.

Gezichtfilters kun je al toepassen op Instagram en Snapchat. De app herkent je gezicht en plaats er een passend filter overheen. Professionelere systemen kunnen met deep learning de gezichtsuitdrukkingen van personen leren en daarmee steeds ‘levensechter’ een persoon nabootsen. In een rapport van Deeptrace over ‘The state of deepfakes’ is de ontwikkeling van deze levensechte namaak onderzocht. Honderduizenden video’s staan online waarin via gezichtsfilters originele acteurs worden afgebeeld als bekende personen. Maar ook onbekende personen wiens foto van social media accounts worden gehaald, worden meer en meer gebruikt. Deepfake is zo’n ontwikkeling die midden in de griezelvallei ligt. Straks kom je jezelf tegen als levensechte avatar en kun je met jezelf converseren. Fictie is steeds echter aan het worden . . .

Wie is de expert?

Een gebruiker vroeg ChatGPT om het 2022 AP Computer Science-examen af te leggen en rapporteerde een score van 32 uit 36, een voldoende. Verbluffend indrukwekkend en de machine doet zich griezelig voor als een intelligent persoon (of in ieder geval iemand die zijn best doet om intelligent te klinken) met behulp van generatieve AI. Software die enorme sets inputs bestudeert om nieuwe outputs te genereren in reactie op gebruikersprompts. ChatGPT zou geschoolde arbeid zoals ‘het schrijven van computercodes’ kunnen vervangen door een simpele bot.

Maar de expert moet de machine blijvend controleren of de door AI gegenereerde code fouten bevat of niet. Net zoals elke menselijke programmeur zijn eigen vooroordelen in zijn werk kan brengen, herbergt een taalgenererende machine als ChatGPT de talloze vooroordelen die te vinden zijn in de miljarden teksten die het gebruikte om zijn gesimuleerde begrip van taal en denken te trainen. Niemand mag de imitatie van menselijke intelligentie verwarren met het echte werk, noch aannemen dat de tekst die ChatGPT op het juiste moment uitbraakt, objectief of gezaghebbend is. Een generatieve chatbot is immers niet meer dan er ooit is ingestopt.

Doet mij denken aan de eerste kennissystemen voor de medische wetenschap. Een prachtig hulpmiddel voor ervaren artsen die het systeem gebruikten in hun onderzoek naar vaak onduidelijke en lastig herkenbare verschijnselen. Maar in handen van een medisch assistent een levensgevaarlijk systeem dat een patiënt kon opzadelen met de meest onlogische conclusies. Met ChatGPT is het niet anders. Een prachtig hulpmiddel voor de experts die hiermee sneller, betere resultaten kunnen realiseren. In handen van professionals is techniek niet snel griezelig. Hooguit complexer en uitdagender, maar dat mag voor professionals geen probleem zijn. Integendeel: het is een uitdaging deze krachtige machines te kunnen besturen en onder controle te houden.

Door: Hans Timmerman (foto)