App vermindert bekijken beelden seksueel kindermisbruik

In samenwerking met deskundigen uit de EU en het VK wordt unieke veiligheidstechnologie ontwikkeld, die op basis van machine learning, real time beelden en video’s van seksueel kindermisbruik zal herkennen. Het tweejarige zogenaamde Protech-project gaat in maart 2023 van start met het onderzoeken, ontwerpen en ontwikkelen van een applicatie voor mensen die neigen om beeldmateriaal van seksueel kindermisbruik te bekijken. Gebruikers worden volledig op de hoogte gebracht van het doel van de app en de effecten ervan op hun toestel.

De app monitort zowel het netwerkverkeer als de beelden die in real time op het scherm van de gebruiker worden bekeken. De app functioneert op de achtergrond waardoor de gebruikers niets merken van deze app, tenzij seksuele misbruikbeelden van minderjarigen worden waargenomen.

De partners van het project zijn ervan overtuigd dat de app de groeiende vraag naar online materiaal van seksueel kindermisbruik kan helpen verminderen. Bovendien voorkomt de app het herhaald slachtofferschap bij de slachtoffers van seksueel misbruik die kunnen lijden onder het feit dat hun beelden steeds opnieuw online bekeken kunnen worden.

De app is uniek omdat deze is ontworpen voor de gebruikers ervan. Er worden zeer accurate machine learning modellen toegepast. Doordat de app in de real time werkt, wordt voorkomen dat de gebruiker dergelijke beelden te zien krijgt.

Deze app kan een essentieel instrument zijn voor een duurzame en lange termijn preventie van beelden van seksueel kindermisbruik. Dit naast de huidige digitale interventies die dergelijke beelden bestrijden en verwijderen, zoals strafrechtelijke onderzoeken en verwijdering en hashing van beelden van seksueel kindermisbruik.

Het project wordt geleid door één van de grootste universitaire ziekenhuizen in Europa, Charité - Universitätsmedizin Berlin (CUB), dat voor dit project samenwerkt met deskundigen van uiteenlopende disciplines zoals criminologie, volksgezondheid, ontwikkelings-, klinische en forensische psychologie, softwareontwikkeling en internetveiligheid.

Het project van 2 miljoen euro is gefinancierd door de Europese Commissie. 

Arda Gerkens, algemeen directeur Stop it Now, onderdeel van het Expertisebureau Online Kindermisbruik: "Stop it Now Nederland is verheugd deel te kunnen uitmaken van dit Protech-onderzoeksproject. Onze hulplijn biedt ondersteuning, begeleiding en online zelfhulpmiddelen voor mensen die materiaal van seksueel kindermisbruik bekijken. Mensen die onze hulplijn contacteren zijn echter vaak op zoek naar technische interventies die hen helpen weg te blijven van dit materiaal.

In onze missie om (online) seksueel kindermisbruik te voorkomen en te bestrijden, en in ons werk om een veilige online omgeving tot stand te brengen voor iedereen, ervaren we dat onderzoek en voortdurende verbetering van ondersteunings- en preventiemiddelen essentieel zijn."