OpenAI experimenteert met contentmoderatie door GPT-4

In een blog geeft OpenAI inzicht in de resultaten van een interne test met het contentmoderatiesysteem. Het stelt onder meer dat GPT-4 veel sneller beleidswijzigingen oppakt bij contentmoderatie, waarbij het omschakelen naar een nieuwe beleid slechts uren in plaats van maanden in beslag neemt. "We geloven dat dit een positievere visie biedt op de toekomst van digitale platforms, waar AI kan helpen het online verkeer te matigen volgens platformspecifiek beleid en de mentale belasting van een groot aantal menselijke moderators kan verlichten. Iedereen met OpenAI API-toegang kan deze aanpak implementeren om zijn eigen AI-ondersteunde moderatiesysteem te creëren", schrijven Lilian Weng, Vik Goel en Andrea Vallone van OpenAI in een blogpost.

Tijdrovende en uitdagende taak

OpenAI wijst op diverse uitdagingen die contentmoderatie met zich meebrengt. Zo is het belangrijk de context van content goed te kunnen duiden, snel te kunnen aanpassen aan nieuwe use cases en nauwkeurig te werk te gaan. Dit maakt contentmoderatie traditioneel een tijdrovende en uitdagende taak. Menselijke contentmoderators ervaren volgens OpenAI mentale stress doordat zij grote hoeveelheden content moeten filteren op schadelijk materiaal. Zij worden hierbij al langer ondersteund door kleinschalige machine learning-modellen.

De partij experimenteert nu met het gebruik van zogeheten Large Language Models (LLM's) voor dit doeleinden. Op basis van experimenten meldt het bedrijf dat dergelijke modellen beslissingen omtrent contentmoderatie kunnen maken op basis van richtlijnen die worden aangereikt. Het ontwikkelen en aanpassen van contentbeleid neemt hierdoor slechts uren in plaats van maanden in beslag. Ook is het mogelijk voorspellingen van GPT-4 te gebruiken voor het finetunen van een veel kleiner AI-model met het oog op contentmoderatie.

Beter dan menselijke moderators met beperkte training

OpenAI meldt dat GPT-4 nu al beter is in contentmoderatie dan menselijke moderators die een 'beperkte training' hebben gekregen. Ervaren menselijke moderators met meer training zijn echter nog altijd beter in contentmoderatie dan GPT-4. Meer informatie is hier beschikbaar.