Google maakt watermerk voor door AI gegenereerde teksten open source

De tool heet SynthID en werd door Google’s DeepMind-afdeling ontwikkeld. Dat is de onderzoeksafdeling voor kunstmatige intelligentie van de techgigant. Google bouwde SynthID zelf om makkelijker tekst te identificeren die door AI werd gegenereerd. De tool werd nu open source gemaakt en is beschikbaar in Google’s Responsible Generative AI Toolkit, zo meldt het bedrijf.

"Nu kunnen andere AI-ontwikkelaars deze technologie gebruiken om hen te helpen detecteren of tekstoutputs van hun eigen large language modellen komen. Zo wordt het voor ontwikkelaars makkelijker om op een verantwoorde wijze AI te bouwen", aldus Pushmeet Kohli, vicepresident van onderzoek bij DeepMind, aan MIT Technology Review.

Watermerk

SynthID is al geïntegreerd in Google eigen chatbot Gemini en maakt AI-gegenereerde output detecteerbaar door onzichtbare watermerken toe te voegen aan beelden, audio, video en tekst terwijl die wordt gegenereerd. Zo kan dezelfde tool ook een watermerk herkennen op basis van enkele zinnen.

Watermerken zijn een belangrijk werktuig voor bedrijven die liever niet willen dat hun AI-modellen worden misbruikt. Generatieve AI wordt onder meer ingezet om op grote schaal desinformatie te genereren en verspreiden, of om seksuele beelden samen te stellen zonder toestemming van de mensen die getoond worden. Met een watermerk moet het alvast duidelijk worden dat die beelden en teksten niet uit een betrouwbare bron komen.

Meerdere overheiden, zoals die van de staat Californië maar ook China, willen watermerken verplicht maken voor door AI gegenereerde content. De technologie daarvoor staat echter nog niet helemaal op punt. Andere AI-bedrijven werken aan gelijkaardige systemen. Google’s concurrent OpenAI zegt bijvoorbeeld een watermerk te hebben, maar wil dat nog niet openbaar maken, omdat het klanten zou kunnen afschrikken.

In samenwerking met Data News.