Malware ontdekt in beeldgenerator Stable Diffusion
Een extensie voor de beeldgenerator Stable Diffusion blijkt malware te bevatten die je logingegevens steelt. De daders beweren dat te doen om te protesteren tegen het feit dat AI werk van artiesten zomaar kopieert.
Stable Diffusion is een beeldgenerator die ook lokaal kan draaien en aan te passen valt met extra opties. Een daarvan is ComfyUI, een gratis grafische interface om voor de beeldgenerator modellen aan te passen. Voor die interface is er een extensie, ComfyUI_LLMVISION, die toelaat dat gebruikers GTP-4 en Claude 3 in dezelfde interface integreren.
Het is in die extensie waar momenteel een risico schuilt en recent malware werd verscholen. Volgens 404media ging de GitHub pagina van hen recent offline, maar meldde de pagina vlak ervoor dat ze gecompromitteerd was.
Inloggegevens gestolen
Op Reddit beweert intussen iemand dat in de week na de installatie plots een hoop meldingen van loginpogingen opdoken, wat suggereert dat malware inloggegevens stal die vervolgens actief werden misbruikt. Ook vpnMentor beweert in een blogpost dat de meest recente ComfyUI_LLMVISION code is ontwikkeld om gebruikersinformatie te stelen. Ook crypto wallets kunnen zo gestolen worden.
Het lijkt er op dat de extensie in kwestie aanvankelijk wel legitiem was, maar dat de accounts van de makers een zekere tijd geleden zijn gehackt waardoor daders de code konden veranderen. De groep die dat deed noemt zichzelf Nullbulge.
Volgens 404media hebben zij ook een site, die momenteel offline is, maar staat daar te lezen dat de groep een collectief is dat ‘gelooft in het belang om artiesten te beschermen en eerlijke compensatie voor hun werk wil garanderen.’ Andere boodschappen stellen dat de groep tegen ‘kunstdiefstal’, ‘crypto promotie’, AI-gegenereerde kunst en diefstal van artiesten is.
Kritiek uit creatieve sector
De insteek komt verder uit het feit dat grote taalmodellen om teksten en beelden te genereren hun vaardigheden leren door grote hoeveelheden tekst en beeldmateriaal te analyseren. Daarom komt er regelmatig kritiek uit de creatieve sector dat AI ongevraagd het werk van echte artiesten gebruikt als voedingsbron om vervolgens gelijkaardig werk te produceren, wat er toe kan leiden dat artiesten zelf minder betaalde opdrachten krijgen omdat hun werk door AI wordt gedaan.
We moeten daarbij wel nuanceren dat er geen enkel bewijs is of Nullbulge als criminele groep effectief wil opkomen voor artiesten. Het kan best zijn dat het met een morele overtuiging toestellen infecteert, maar het kan ook een excuus zijn om meer sympathie te krijgen en intussen alsnog gebruikersaccounts te hacken.
In samenwerking met Data News
