Selon les chercheurs de CyberArk, les modèles basés sur GPT comme ChatGPT peuvent être utilisés pour créer des logiciels malveillants polymorphes parce qu'ils peuvent générer de grandes quantités de texte unique et varié.
Les chercheurs affirment que le logiciel malveillant ChatGPT peut échapper aux produits de sécurité et compliquer les efforts d'atténuation avec peu d'efforts ou d'investissements de la part de l'attaquant. En outre, le robot peut créer des logiciels malveillants très avancés qui ne contiennent aucun code malveillant, ce qui les rend difficiles à détecter et à atténuer.
Les logiciels malveillants polymorphes sont des logiciels malveillants capables de modifier leur code pour éviter d'être détectés par les programmes antivirus. Il s'agit d'une menace particulièrement dangereuse car il peut s'adapter rapidement et se propager avant que les mesures de sécurité ne puissent le détecter. Les logiciels malveillants polymorphes modifient généralement leur apparence à chaque installation, ce qui les rend difficiles à détecter par les logiciels antivirus.
En entraînant le modèle sur un ensemble de données d'échantillons de logiciels malveillants existants, ChatGPT ou tout autre modèle basé sur GPT peut potentiellement être utilisé pour créer des logiciels malveillants polymorphes. Une fois entraîné, le modèle peut générer de nouvelles variantes distinctes du logiciel malveillant qui résistent à la détection par les logiciels antivirus traditionnels. En effet, les logiciels malveillants polymorphes peuvent changer d'apparence, de code ou de cryptage - un trait commun à de nombreuses menaces modernes telles que les logiciels malveillants JavaScript - tout en continuant à mener les mêmes actions malveillantes.
Il est toutefois essentiel de se rappeler que la création de logiciels malveillants polymorphes est une entreprise difficile qui nécessite des connaissances en programmation et en développement de logiciels malveillants, et qu'il serait difficile d'y parvenir avec un simple modèle de langage. Pour convertir le texte généré en logiciels malveillants fonctionnels, il faut une personne ou un groupe qualifié ayant des connaissances en programmation et en développement de logiciels malveillants, tout comme les attaquants utilisent les logiciels malveillants PyPI dans les écosystèmes à code source ouvert.
La première étape consiste à contourner les filtres de contenu qui empêchent le chatbot de produire des logiciels malveillants. Pour ce faire, il faut utiliser un ton autoritaire.
Les chercheurs ont demandé au robot d'accomplir la tâche tout en respectant de nombreuses contraintes, et ils ont reçu un code fonctionnel en retour. Ils ont également remarqué que lorsqu'ils utilisaient la version API de ChatGPT au lieu de la version web, le système n'utilisait pas son filtre de contenu. Les chercheurs n'ont pas compris pourquoi. Toutefois, comme la version web ne pouvait pas traiter les demandes complexes, cela leur a facilité la tâche.
Le bot a ensuite été utilisé par les chercheurs pour faire muter le code original, ce qui a permis de créer de multiples variations uniques. Vient ensuite un programme polymorphe impliquant la création et la mutation continues d'injecteurs.
Les sources de cet article comprennent un article paru dans DARKReading.
Regardez cette actualité sur notre chaîne youtube : https://www.youtube.com/watch?v=ycO6hVmt5R4

