Cybercriminelen laten ChatGPT malware schrijven

Cybercriminelen zijn erin geslaagd de beperkingen van ChatGPT rond het creëren van kwaadaardige code met de AI-gebaseerde chatbot te omzeilen. Zij bieden diensten aan waarmee klanten malware en phishingmails kunnen creëren, en combineren hierbij ChatGPT met Telegram.

ChatGPT is een chatbot van OpenAI die AI gebruikt en op menselijke wijze antwoord geeft op vragen. De chatbot kan onder meer computercode schrijven. ChatGPT blokkeert verzoeken voor het creëren van illegale content. Denk daarbij aan kwaadaardige code of aan phishingmails.

ChatGPT benaderen via API

Check Point Research meldt echter dat cybercriminelen een manier hebben gevonden om deze beveiliging te omzeilen. Zij benaderen ChatGPT hierbij via de API in plaats van de webgebaseerde interface. Deze API-versie blijkt verzoeken tot het creëren van illegale content niet te blokkeren.

Op internet bieden cybercriminelen diensten aan waarmee zij ChatGPT en de versleutelde chatapplicatie Telegram combineren. Gebruikers kunnen via Telegram kwaadaardige code en phishingmails opstellen, die door ChatGPT worden opgesteld. Onderzoekers van Check Point Research wisten met behulp van de diensten onder meer phishingmails en een script dat PDF-bestanden steelt te creëren.