Soporte técnico
Documentación
Inicio de sesión
Póngase en contacto con nosotros
El malware creado con ChatGPT elude antivirus y EDR
21 de junio de 2023 - Equipo de RRPP de TuxCare
El uso de ChatGPT ha dado lugar a la creación de software malicioso capaz de eludir la detección y la reacción de los antivirus tradicionales y los sistemas de detección y respuesta de puntos finales (EDR).
El malware utiliza ChatGPT para producir código dinámico y mutante en tiempo de ejecución, lo que dificulta la detección de las vulnerabilidades resultantes por parte de las herramientas de ciberseguridad. Dado que el código cambia continuamente, las técnicas de seguridad estándar tienen dificultades para detectarlo.
En un caso, los investigadores de HYAS InfoSec desarrollaron una prueba de concepto de software malicioso denominada BlackMamba. BlackMamba genera un keylogger que muta con cada ejecución de ChatGPT. Esto dificulta la detección de los sistemas EDR, ya que la firma del malware varía cada vez que se ejecuta. En múltiples ocasiones, BlackMamba fue capaz de evitar ser detectado por un sistema EDR líder del sector.
Además, la empresa de ciberseguridad CyberArk creó una prueba de concepto que incluía ChatGPT en el propio virus. ChattyCat es un proyecto de código abierto que permite la producción de numerosos tipos de malware, como ransomware e infostealers, aprovechando las capacidades de ChatGPT para evitar su detección. En comparación con la primera versión en línea, los filtros de contenido de la API de ChatGPT parecen ser más débiles o inexistentes.
Uno de los aspectos más difíciles de combatir esta amenaza es la posibilidad de inducir a error a ChatGPT para que cree código dañino eficaz evadiendo los filtros de contenido. Incluso cuando ChatGPT aplica restricciones y filtra sus respuestas en función del contexto de la consulta, solicitar a ChatGPT que produzca código con una funcionalidad comparable a la del código dañino aumenta la probabilidad de que se cumpla.
La creciente amenaza de programas maliciosos basados en ChatGPT y otras preocupaciones relacionadas han llevado a algunos expertos a instar a una regulación generativa de la IA.
Las fuentes de este artículo incluyen un artículo en CSOONLINE.
