Clone malveillant de ChatGPT WormGPT utilisé pour lancer des attaques par courrier électronique

Republié par Platon

Suiveurs: 0

Un pirate informatique au chapeau noir a lancé une version malveillante de ChatGPT d'OpenAI appelée WormGPT, qui a ensuite été exploitée pour créer une attaque de phishing par courrier électronique efficace contre des milliers de victimes.

WormGPT, basé sur le grand modèle de langage GPTJ 2021 développé par EleutherAI, est conçu spécifiquement pour les activités malveillantes, selon un rapport par la société de cybersécurité SlashNext. Les fonctionnalités incluent une prise en charge illimitée des caractères, la conservation de la mémoire de discussion et le formatage du code, et WormGPT a été formé sur les ensembles de données liés aux logiciels malveillants.

Les cybercriminels utilisent désormais WormGPT pour lancer un type d'attaque de phishing appelé attaque Business Email Compromise (BEC).

"La différence [de WormGPT] est que ChatGPT a mis en place des garde-fous pour se protéger contre les cas d'utilisation illégaux ou néfastes", directeur des opérations de la société de sécurité blockchain Halborn David Schwed a dit Décrypter sur Télégramme. "[WormGPT] ne dispose pas de ces garde-fous, vous pouvez donc lui demander de développer des logiciels malveillants pour vous."

Phishing attaques sont l'une des formes les plus anciennes mais aussi les plus courantes de cyberattaque, et sont généralement exécutés par courrier électronique, SMS ou publications sur les réseaux sociaux sous un faux nom. Dans une attaque de compromission de courrier électronique professionnel, un attaquant se fait passer pour un dirigeant ou un employé de l'entreprise et incite la cible à lui envoyer de l'argent ou des informations sensibles.

Grâce aux progrès rapides de l’IA générative, les chatbots comme ChatGPT ou WormGPT peuvent rédiger des e-mails convaincants ressemblant à des humains, rendant ainsi les messages frauduleux plus difficiles à repérer.

SlashNext affirme que des technologies telles que WormGPT abaissent la barre pour mener des attaques BEC efficaces, responsabilisant les attaquants moins qualifiés et créant ainsi un plus grand bassin de cybercriminels potentiels.

Pour se protéger contre les attaques de compromission des e-mails professionnels, SlashNext recommande aux organisations d'utiliser une vérification améliorée des e-mails, notamment des alertes automatiques pour les e-mails usurpant l'identité de chiffres internes et signalant les e-mails avec des mots clés tels que « urgent » ou « virement bancaire » qui sont généralement liés au BEC.

Face à la menace toujours croissante des cybercriminels, les entreprises recherchent constamment des moyens de se protéger et de protéger leurs clients.

En mars, Microsoft, l'un des plus grands investisseurs dans le créateur de ChatGPT OpenAI, a lancé un outil d'IA générative axé sur la sécurité appelé Copilote de sécurité. Security Copilot exploite l’IA pour améliorer les défenses de cybersécurité et la détection des menaces.

"Dans un monde où il y a 1,287 XNUMX attaques de mots de passe par seconde, les outils et infrastructures fragmentés n'ont pas suffi à arrêter les attaquants", a déclaré Microsoft dans un communiqué. son annonce. « Et même si les attaques ont augmenté de 67 % au cours des cinq dernières années, le secteur de la sécurité n’a pas été en mesure d’embaucher suffisamment de professionnels du cyberrisque pour suivre le rythme. »

SlashNext n'a pas encore répondu à Décrypter demande de commentaire.