Microsoft neemt juridische stappen tegen misbruik van AI-diensten

Microsoft meldt in een blog: 'Hoewel Microsoft aanzienlijke inspanningen levert om de weerbaarheid van haar producten en diensten tegen misbruik te verbeteren, blijven cybercriminelen onverminderd doorgaan met het innoveren van hun tools en technieken om zelfs de meest robuuste beveiligingsmaatregelen te omzeilen. Met deze actie stuurt Microsoft een duidelijk signaal: de wapening van haar AI-technologie door online actoren zal niet worden getolereerd.

De AI-diensten van Microsoft maken gebruik van sterke veiligheidsmaatregelen, waaronder ingebouwde veiligheidsbeperkingen op het niveau van het AI-model, het platform en de applicatie. Zoals in de vandaag openbaar gemaakte gerechtelijke documenten wordt beweerd, heeft Microsoft een buitenlandse bedreigingsactor-groep waargenomen die geavanceerde software heeft ontwikkeld die misbruik maakt van blootgestelde klantgegevens die van openbare websites zijn geschraapt. Hiermee probeerden ze accounts met bepaalde generatieve AI-diensten te identificeren en onrechtmatig toegang te krijgen en de mogelijkheden van deze diensten opzettelijk te wijzigen. Cybercriminelen gebruikten vervolgens deze diensten en verkochten de toegang aan andere kwaadwillende actoren met gedetailleerde instructies over het gebruik van deze aangepaste tools om schadelijke en onrechtmatige inhoud te genereren. Na ontdekking heeft Microsoft de toegang van cybercriminelen ingetrokken, tegenmaatregelen getroffen en de beveiligingsmaatregelen verbeterd om dergelijke kwaadaardige activiteiten in de toekomst verder te blokkeren.

Kwaadwillende actoren

Deze activiteit schendt rechtstreeks de Amerikaanse wetgeving en het Acceptable Use Policy en de Gedragscode voor onze diensten. De vandaag openbaar gemaakte gerechtelijke documenten maken deel uit van een lopend onderzoek naar de makers van deze onrechtmatige tools en diensten. Met name heeft het gerechtelijk bevel het mogelijk gemaakt om een website in beslag te nemen die essentieel is voor de criminele operatie. Dit zal ons in staat stellen om cruciaal bewijs te verzamelen over de personen achter deze operaties, te ontcijferen hoe deze diensten worden gemonetariseerd en om aanvullende technische infrastructuur die we vinden te verstoren. Tegelijkertijd hebben we aanvullende veiligheidsbeperkingen toegevoegd die gericht zijn op de activiteit die we hebben waargenomen en zullen we onze beveiligingsmaatregelen blijven versterken op basis van de bevindingen van ons onderzoek.

Elke dag maken mensen gebruik van generatieve AI-tools om hun creatieve expressie en productiviteit te verbeteren. Helaas, en zoals we hebben gezien met de opkomst van andere technologieën, trekken de voordelen van deze tools kwaadwillende actoren die technologie en innovatie willen exploiteren en misbruiken voor kwaadaardige doeleinden. Microsoft erkent de rol die zij speelt bij het beschermen tegen het misbruik en wangedrag van haar tools terwijl zij en anderen in de sector nieuwe mogelijkheden introduceren. Vorig jaar heeft Microsoft zich ertoe verbonden om te blijven innoveren op nieuwe manieren om gebruikers veilig te houden en heeft zij een uitgebreide aanpak uiteengezet om de bestrijding van misbruik van AI-gegenereerde inhoud en de bescherming van mensen en gemeenschappen. Deze meest recente juridische actie bouwt voort op die belofte.

Juridische stappen

Naast juridische stappen en de voortdurende versterking van onze veiligheidsmaatregelen, blijft Microsoft aanvullende proactieve maatregelen en partnerschappen met anderen nastreven om online schade aan te pakken en pleit zij voor nieuwe wetten die overheidsinstanties voorzien van de noodzakelijke instrumenten om het misbruik van AI, met name om anderen te schaden, effectief te bestrijden. Microsoft heeft onlangs een uitgebreid rapport gepubliceerd, "Protecting the Public from Abusive AI-Generated Content", waarin aanbevelingen worden gedaan voor de industrie en de overheid om het publiek, en met name vrouwen en kinderen, beter te beschermen tegen actoren met kwaadaardige motieven.

Al bijna twee decennia werkt de DCU van Microsoft aan het verstoren en afschrikken van cybercriminelen die de alledaagse tools waar consumenten en bedrijven op zijn gaan vertrouwen, willen wapenen. Vandaag bouwt de DCU voort op deze aanpak en past zij belangrijke lessen uit eerdere cybersecurity-acties toe om het misbruik van generatieve AI te voorkomen. Microsoft zal blijven bijdragen door op creatieve manieren naar manieren te zoeken om mensen online te beschermen, transparant te rapporteren over onze bevindingen, juridische stappen te ondernemen tegen degenen die proberen AI-technologie te wapenen en samen te werken met anderen in de publieke en private sector wereldwijd om alle AI-platforms veilig te houden tegen schadelijk misbruik.'