Onderzoekers: Mensen onderschatten invloed van ChatGPT op hun besluitvorming

ChatGPT beïnvloedt het morele oordeel van gebruikers. Of gebruikers weten of het advies dat zij krijgen afkomstig is van een mens of een bot, speelt daarbij geen rol.

ChatGPT is een AI-model van OpenAI dat in november is geïntroduceerd. De chatbot kan allerlei vragen van gebruikers beantwoorden. De tekst die de bot hierbij produceert is dusdanig goed dat deze vaak lastig van door mensen geschreven tekst onderscheidbaar is. De chatbot leidt al tot allerlei problemen. Zo gaven leerkrachten eerder al aan teksten die leerlingen door ChatGPT laten opstellen nauwelijks te kunnen herkennen.

Nu blijkt uit onderzoek van Deense en Duitse onderzoekers waarover The Register bericht dat ChatGPT het morele oordeel van gebruikers beïnvloed. In een onderzoekspaper melden Sebastian Krügel en Matthias Uhl van de Technische Hochschule Ingolstadt en Andreas Ostermaier van de University of Southern Denmark vaak tegenstrijdig advies geeft over morele problemen.

Trolley-probleem

Aan het onderzoek namen 767 Amerikanen deel. Zij kregen twee versies van een ethisch dilemma dat ook wel het 'trolley-probleem' wordt genoemd: het switch-dilemma en het bridge-dilemma. Het switch-dilemma vraagt een persoon of zij een schakelaar willen omzetten die een op hol geslagen kar op een ander spoor zet. Door deze beslissing verliezen in plaats van vijf personen een persoon het leven. Bij het bridge-dilemma wordt een persoon gevraagd een vreemde van een brug op een spoor te duwen, met als doel een kar te stoppen die anders vijf mensen zou doden. De persoon die op het spoor wordt geduwd laat hierbij het leven.

Uit het onderzoek blijkt dat ChatGPT tegenstrijdige adviezen geeft, en soms voor of tegen het opofferen van één persoon om het leven van vijf personen te redden pleit. Ook blijkt dat de mening van deelnemers varieert, afhankelijk van het advies dat ChatGPT geeft. Respondenten blijken daarnaast de invloed van dit advies op hun eigen besluitvorming te onderschatten.

Inmiddels herkent ChatGPT overigens het trolley-dilemma en geeft hierop geen antwoord meer.

Meer informatie over het onderzoek is hier beschikbaar.