De acordo com pesquisadores da CyberArk, modelos baseados em GPT, como o ChatGPT, podem ser usados para criar malware polimórfico, pois são capazes de gerar grandes quantidades de texto único e variado.
Os pesquisadores afirmam que o malware ChatGPT pode contornar os produtos de segurança e dificultar os esforços de mitigação com pouco esforço ou investimento por parte do invasor. Além disso, o bot é capaz de criar malware altamente avançado que não contém nenhum código malicioso, o que dificulta sua detecção e mitigação.
O malware polimórfico é um tipo de software malicioso capaz de alterar seu código para evitar ser detectado por programas antivírus. Trata-se de uma ameaça particularmente perigosa, pois pode se adaptar e se espalhar rapidamente antes que as medidas de segurança consigam detectá-lo. O malware polimórfico geralmente funciona alterando sua aparência a cada instalação, o que dificulta sua detecção por softwares antivírus.
Ao treinar o modelo com um conjunto de dados de amostras de malware existentes, o ChatGPT ou qualquer outro modelo baseado em GPT pode, potencialmente, ser usado para criar malware polimórfico. Uma vez treinado, o modelo pode gerar novas variantes distintas do malware, resistentes à detecção por softwares antivírus tradicionais. Isso se deve ao fato de que o malware polimórfico pode alterar sua aparência, código ou criptografia — uma característica comum em muitas ameaças modernas, como o malware em JavaScript —, sem deixar de realizar as mesmas ações maliciosas.
É fundamental lembrar, no entanto, que a criação de malware polimórfico é uma tarefa desafiadora que exige conhecimento de programação e desenvolvimento de malware, e seria difícil alcançar isso apenas com um modelo de linguagem. Para converter o texto gerado em malware funcional, seria necessário um indivíduo ou grupo qualificado, com conhecimento de programação e desenvolvimento de malware, da mesma forma que os invasores transformam o malware do PyPI em arma nos ecossistemas de código aberto.
O primeiro passo é contornar os filtros de conteúdo que impedem o chatbot de gerar software malicioso. Isso é feito por meio do uso de um tom de comando.
Os pesquisadores instruíram o bot a realizar a tarefa respeitando várias restrições e, em troca, receberam um código funcional. Eles também perceberam que, ao utilizarem a versão API do ChatGPT em vez da versão web, o sistema não aplicava seu filtro de conteúdo. Os pesquisadores ficaram perplexos quanto ao motivo pelo qual isso ocorreu. No entanto, como a versão web não conseguia lidar com solicitações complexas, isso facilitou o trabalho deles.
O bot foi então utilizado pelos pesquisadores para sofrer mutações no código original, resultando na criação de várias variações únicas. Em seguida, vem um programa polimórfico que envolve a criação e a mutação contínuas de injetores.
As fontes utilizadas neste artigo incluem uma matéria publicada no DARKReading.
Assista a essa notícia no nosso canal do YouTube: https://www.youtube.com/watch?v=ycO6hVmt5R4

