Techbedrijven werken aan watermerk voor AI-content

Dit maakt het Witte Huis bekend. Het gaat om een initiatief van van zeven grote Amerikaanse techbedrijven: OpenAI, Microsoft, Google, Meta, Amazon, Anthropic en Inflection. Het watermark moet delen van AI-gegenereerde tekst, video, audio en afbeeldingen veiliger maken en voorkomen dat dergelijke content mensen misleidt. Denk daarbij aan deepfakes.

Hoe het watermerk technisch exact gaat werken is onduidelijk. Wel is duidelijk dat gebruikers via het watermerk de herkomst van content moeten kunnen achterhalen, en kunnen terugleiden tot een AI-tool.

'Kan deepfakes niet volledig tegengaan'

Jelle, Security Awareness Advocate bij Knowbe4, noemt de intentie achter het watermerk goed, maar plaatst hierbij wel enkele kanttekeningen. Zo verwacht Wieringa niet dat de technologie deepfakes volledig kan tegengaan. "De intentie is goed, maar zolang er geen eenvoudig toepasbare en realtime technologie bestaat om deepfakes te detecteren en mensen te waarschuwen, moeten werkgevers hun medewerkers onderwijzen in de gevaren van deepfakes. Een gezond gevoel van wantrouwen is op dit moment de beste bescherming", zegt Wieringa.

"Natuurlijk is de intentie van techbedrijven om zo’n watermerk te ontwikkelen goed. Het probleem zit hem vooral in hoe ze kunnen afdwingen dat ook een groep die kwaadwillend is, gebruikmaakt van dit soort middelen. Cybercriminelen die generatieve AI willen gebruiken om cyberaanvallen zoals phishing effectiever te maken houden zich zelden aan wet- en regelgeving. Technologie die hun eigen operatie ondermijnt zullen ze ook liever links laten liggen."

Meer AI-gebaseerde BEC-aanvallen verwacht

Wieringa: "Tegelijkertijd wordt technologie om deepfakes te produceren steeds geavanceerder en toegankelijker. Dat geldt voor video, maar zeker ook voor audio. Daarom verwacht ik dat we dit jaar een aanzienlijke groei gaan zien in Business Email Compromise (BEC)-aanvallen waarbij een cybercrimineel door AI gemaakte spraakberichten gebruikt. Bij dit soort aanvallen ontvangt een werknemer zogenaamd een voice-berichtje van zijn of haar directeur om zo snel als mogelijk vertrouwelijke informatie te sturen."

De Security Awareness Advocate besluit: "Technologie om deepfakes in real-time te detecteren en stoppen is vandaag de dag nog niet volwassen. Daarom moeten werkgevers hun medewerkers blijven onderwijzen in de gevaren van BEC en deepfakes. Ze zorgen hiermee voor een gezond gevoel van wantrouwen, waardoor de kans kleiner wordt dat cybercriminelen die een BEC-aanval uitvoeren slagen."