Redactie - 15 juli 2021

Discord wil online haat weren met AI

Discord wil online haat weren met AI image

Online chatplatform Discord gaat Sentropy overnemen. Die laatste is gespecialiseerd in AI-software om online haat en pestgedrag op te sporen en tegen te gaan. Discord, ooit begonnen als communicatieplatform specifiek voor gamers, gebruikt al een tijdje een systeem van moderatoren om misbruik op zijn servers tegen te gaan. Het heeft een team van medewerkers in dienst die modereren, maar individuele servers rekenen ook op vrijwillige admins en moderatoren om gesprekken binnen de perken te houden.

Met Sentropy komt daar binnenkort een AI-poot bij. Discord zegt de bestaande toolkit van het AI-bedrijf te integreren. Ook de bazen van Sentropy krijgen een job bij de chatdienst. Discord wil niet zeggen hoeveel het voor Sentropy betaald heeft, maar geeft op deze manier wel aan dat het online pestgedrag serieus neemt.

Online haat
De dienst laat iedereen toe een chat- en audioserver te maken voor vrienden en is op die manier een soort onofficieel platform geworden voor niet alleen gamergroepjes, maar ook heel wat fangemeenschappen. Het zegt zo'n 19 miljoen gemeenschappen een thuis te bieden en het heeft ondertussen 150 miljoen actieve gebruikers per maand.

Discord had in het verleden echter ook te maken met gewelddadige groepen. De dienst verstrengde zijn regels rond haat en extremisme na de extreem-rechtse Unite the Right rally in het Amerikaanse Charlottesville, waarbij een dode viel. Het zou ondertussen een groot deel extremistische groepen verbannen hebben en lijkt de strijd nu ook op een meer geautomatiseerde manier aan te gaan.

In samenwerking Data News

Trend Micro BW BN week 10-11-13-14-2024 Copaco | BW 25 maart tm 31 maart 2024
Trend Micro BW BN week 10-11-13-14-2024

Wil jij dagelijkse updates?

Schrijf je dan in voor onze nieuwsbrief!