Les logiciels malveillants créés avec ChatGPT échappent aux antivirus et aux EDR

L'utilisation de ChatGPT a entraîné la création de logiciels malveillants capables d'échapper à la détection et à la réaction des antivirus traditionnels et des systèmes de détection et de réponse (EDR) des points finaux.

Par le biais d'invites, ChatGPT est utilisé par le logiciel malveillant pour produire un code dynamique et changeant pendant l'exécution, ce qui rend les exploits de vulnérabilité qui en résultent difficiles à détecter par les outils de cybersécurité. Comme le code change continuellement, les techniques de sécurité standard ont du mal à le détecter.

Dans un cas, les chercheurs de HYAS InfoSec ont mis au point un logiciel malveillant de démonstration baptisé BlackMamba. BlackMamba génère un enregistreur de frappe qui mute à chaque exécution de ChatGPT. Cela rend les systèmes EDR difficiles à détecter car la signature du logiciel malveillant varie à chaque fois qu'il est exécuté. À plusieurs reprises, BlackMamba a pu éviter d'être détecté par un système EDR de pointe.

En outre, la société de cybersécurité CyberArk a créé une preuve de concept qui inclut ChatGPT dans le virus lui-même. ChattyCat est un projet open-source qui permet de produire de nombreux types de logiciels malveillants, tels que des rançongiciels et des voleurs d'informations, tout en exploitant les capacités de ChatGPT pour éviter d'être détecté. Par rapport à la première version en ligne, les filtres de contenu de l'API ChatGPT semblent plus faibles, voire inexistants.

L'un des aspects les plus difficiles de la lutte contre cette menace est la possibilité de tromper ChatGPT en créant un code nuisible efficace en contournant les filtres de contenu. Même lorsque ChatGPT applique des contraintes et filtre ses réponses en fonction du contexte de la demande, le fait de demander à ChatGPT de produire un code dont les fonctionnalités sont comparables à celles d'un code nuisible augmente la probabilité de conformité.

La menace croissante des logiciels malveillants basés sur le ChatGPT et d'autres problèmes connexes ont incité certains experts à préconiser une réglementation générative de l'IA.

Les sources de cet article comprennent un article paru dans CSOONLINE.

Résumé

Nom de l'article

Les logiciels malveillants créés avec ChatGPT échappent aux antivirus et aux EDR

Description

L'utilisation de ChatGPT a permis de créer des logiciels malveillants capables d'échapper à la détection et à la réaction des antivirus traditionnels.

Auteur

Obanla Opeyemi

Nom de l'éditeur

TuxCare

Logo de l'éditeur