ChatGPT로 생성된 멀웨어는 안티바이러스, EDR을 회피합니다.

ChatGPT의 사용으로 인해 기존 안티바이러스 및 엔드포인트 탐지 및 대응(EDR) 시스템의 탐지 및 대응을 회피할 수 있는 악성 소프트웨어가 만들어졌습니다.

악성코드는 프롬프트를 통해 실행 중에 동적으로 변이되는 코드를 생성하는 데 ChatGPT를 사용하므로 사이버 보안 도구로 취약점 익스플로잇을 탐지하기 어렵습니다. 코드가 계속 변경되기 때문에 표준 보안 기술로는 이를 탐지하는 데 어려움이 있습니다.

한 사례로, HYAS 인포섹 연구원들은 BlackMamba라는 개념 증명 멀웨어 소프트웨어를 개발했습니다. BlackMamba는 ChatGPT를 실행할 때마다 변이하는 키로거를 생성합니다. 따라서 멀웨어의 시그니처가 실행될 때마다 달라지기 때문에 EDR 시스템이 탐지하기 어렵습니다. 블랙맘바는 업계 최고의 EDR 시스템에서도 여러 번 탐지를 피할 수 있었습니다.

또한, 사이버 보안 회사인 CyberArk는 ChatGPT를 바이러스 자체에 포함하는 개념 증명을 만들었습니다. ChattyCat은 랜섬웨어 및 인포스틸러와 같은 다양한 종류의 멀웨어를 제작할 수 있는 오픈 소스 프로젝트로, ChatGPT의 기능을 악용하여 탐지를 피할 수 있습니다. 첫 번째 온라인 버전과 비교했을 때 ChatGPT API 내부의 콘텐츠 필터는 약하거나 존재하지 않는 것처럼 보입니다.

이러한 위협에 대처하는 데 있어 가장 어려운 측면 중 하나는 콘텐츠 필터를 회피하여 효과적인 유해 코드를 생성하도록 ChatGPT를 오도할 가능성이 있다는 점입니다. ChatGPT가 제약 조건을 적용하고 문의 컨텍스트에 따라 응답을 필터링하더라도 유해 코드와 유사한 기능을 가진 코드를 생성하도록 요청하면 규정을 준수할 가능성이 높아집니다.

ChatGPT 기반 멀웨어의 위협과 기타 관련 우려가 증가함에 따라 일부 전문가들은 생성형 AI 규제를 촉구하고 있습니다.

이 글의 출처는 CSOONLINE의 기사입니다.

요약

기사 이름

ChatGPT로 생성된 멀웨어는 안티바이러스, EDR을 회피합니다.

설명

ChatGPT의 사용으로 인해 기존 백신의 탐지 및 반응을 회피할 수 있는 악성 소프트웨어가 만들어졌습니다.

작성자

오반라 오페예미

게시자 이름

TuxCare

게시자 로고