UNESCO: 'GenAI moedigt desinformatie over Holocaust aan'
Generatieve kunstmatige intelligentie (Gen AI) moedigt de verspreiding van valse informatie over de Holocaust aan. Dit meldt Unesco in een recent rapport.
De verspreiding van valse informatie kan volgens het rapport ‘antisemitisme aanwakkeren maar ook onze relatie met de historische waarde veranderen’. Anders gezegd: AI dreigt de geschiedenis rond de Holocaust te herschrijven. ‘Als we toestaan dat de verschrikkelijke feiten van de Holocaust worden afgezwakt, vervormd of vervalst door het onverantwoordelijke gebruik van AI, dan riskeren we een razendsnelle toename van antisemitisme en een afname van ons begrip van de oorzaken en gevolgen van deze gruweldaden’, zegt UNESCO-directeur-generaal Audrey Azoulay.
Hallucinerende AI
In het rapport – een samenwerking met het World Jewish Congress – stelt het VN-agentschap dat generatieve AI-modellen zoals ChatGPT, die tekst, foto’s, geluiden en video’s genereren uit alledaagse zoekopdrachten, bepaalde gebeurtenissen uit de Tweede Wereldoorlog verzinnen.
Die valse feiten – ook wel ‘hallucinatie’ genoemd in de AI-wereld – zijn een gekend probleem, waaraan zowat alle techgiganten zich ondertussen al verbrand hebben. In februari veroorzaakte Gemini, de Gen AI-interface van Google – aanvankelijk bekend als Bard – , nog opschudding door afbeeldingen van zwartgekleurde nazi’s te produceren. ChatGPT, dat generatieve AI bij het grote publiek introduceerde toen het in 2022 werd gelanceerd door OpenAI, bedacht dan weer het concept van een ‘Holocaust door verdrinking’. ChatGPT stelde het als waarheid voor dat nazi’s massaal Joodse mensen verdronken in meren en rivieren.
Meer ethische principes
‘De aanbeveling van UNESCO rond de ethische aspecten van AI moet dringend worden geïmplementeerd, zodat jongere generaties weer opgroeien met feiten en niet met verzinsels’, besluit Audrey Azoulay. De directeur-generaal van het VN-agentschap verwijst daarmee dat een aanbeveling die al van november 2021 dateert. UNESCO dringt er bij technologiebedrijven op aan om de nodige normen te implementeren, hun verantwoordelijkheid te nemen en ervoor te zorgen dat principes zoals eerlijkheid, transparantie, mensenrechten en ‘due diligence’ al in de ontwerpfase in toepassingen worden ingebouwd.
In februari van dit jaar schaarden 8 grote techbedrijven waaronder Microsoft zich wel achter die ‘Recommendation on the Ethics of AI’. De aanbevelingen worden ondertussen ook in meer dan 50 landen al verwerkt in wetgeving.
In samenwerking met Data News
