ChatGPT produceert schadelijke e-mails en code

Onderzoekers van Check Point Research (CPR) waarschuwen dat hackers OpenAI's ChatGPT en Codex kunnen gebruiken om gerichte en efficiënte cyberaanvallen uit te voeren. Ter demonstratie gebruikte CPR beide tools om kwaadaardige e-mails, code en een volledige infectieketen te produceren die zich op computers konden richten. CPR publiceert deze voorbeelden om het belang van waakzaamheid te onderstrepen, aangezien de ontwikkeling van AI-technologieën, zoals ChatGPT, het landschap van cyberdreigingen aanzienlijk kan veranderen.

De onderzoekers vroegen ChatGPT zich voor te doen als een hostingbedrijf en een phishing-e-mail te schrijven. Ook konden ze met behulp van ChatGPT een Excel-bijlage met kwaadaardige VBA-code maken waarmee reverse shells kunnen worden gedownload. Omgekeerde shell-aanvallen hebben tot doel verbinding te maken met een externe computer en de in- en uitvoerverbindingen van de shell van het doelsysteem om te leiden, zodat de aanvaller er op afstand toegang toe krijgt.

Vervolgens werd schadelijke code gegenereerd door Codex.

 “AI-technologieën zoals ChatGPT hebben het potentieel om het cyberdreigingslandschap aanzienlijk te veranderen. We hebben laten zien hoe gemakkelijk het is om de combinatie van ChatGPT en Codex te gebruiken om kwaadaardige e-mails en code te maken”, zegt Zahier Madhar, Security Engineer Expert bij Check Point Software.

“De wereld van cyberbeveiliging verandert snel en we willen benadrukken hoe belangrijk het is om waakzaam te blijven naarmate ChatGPT en Codex volwassener worden. Deze nieuwe en zich ontwikkelende technologie kan het dreigingslandschap zowel ten goede als ten kwade beïnvloeden.”