기술 지원
문서
로그인
문의하기
AI 시대의 사이버 보안: 즉각적인 영향
조아오 코레이아
2023년 5월 11일 - 기술 에반젤리스트
기술 진화는 점진적인 개선으로 특징지어지는 꾸준한 발전 또는 현상 유지를 재정의하는 파괴적인 도약이라는 두 가지 대조적인 방식으로 정의할 수 있습니다. 후자는 종종 예상치 못한 영향과 결과를 특징으로 하며, 산업과 사회 전반에 걸쳐 지각변동을 일으키는 경향이 있습니다. 인공지능(AI)의 도래를 목격하면서 우리는 이러한 파괴적 도약의 한가운데에 있습니다. 특히 사이버 보안에서 AI는 더 이상 먼 미래의 일이 아니라 지금 여기에서 바로 그 영향력이 펼쳐지고 있습니다.
사이버 보안의 AI 현황
사이버 보안에서 AI의 역할은 제가 이전에 쓴 글에서 에 대해 쓴 적이 있습니다.에서 다룬 바 있으며, 아직 그 영향력이 완전히 실현되지 않았다는 것이 일반적인 생각입니다. 그러나 이러한 관점은 AI가 현재 사이버 보안 환경에 미치는 즉각적이고 가시적인 영향을 간과하고 있습니다. 우리는 이미 공격과 방어 전선 모두에서 혁신적인 효과를 확인할 수 있습니다.
한편으로 AI 기반 피싱 공격은 점점 더 정교해지고 탐지하기 어려워지고 있습니다. 다음과 같은 혁신적인 형태의 소셜 엔지니어링 공격은 딥 페이크 보이스과 같은 혁신적인 형태의 소셜 엔지니어링 공격이 현실이 되었습니다. 반면에 사이버 보안 도구에는 점점 더 많은 AI 구성 요소 통합 을 통합하여 탐지 및 예방 기능을 강화하고 있습니다.
그러나 특히 위험한 발전은 프로그래밍 능력을 갖춘 AI 챗봇의 등장입니다. 이러한 도구는 멀웨어 개발의 대중화와 가속화를 동시에 가져왔으며, 그 어느 때보다 접근성과 편의성이 높아졌습니다.
과거로부터의 폭발: 다시 태어난 스크립트 키즈
이 문제의 심각성을 이해하기 위해 기억의 길을 따라가 봅시다. 인터넷이 아직 초창기였을 때 해킹은 틈새 기술이었습니다. 프로그래밍, 네트워킹, 시스템 아키텍처 등 다양한 컴퓨팅 분야에 대한 깊은 이해가 필요했습니다. 그러던 중 기성 해킹 도구가 등장하면서 하루아침에 환경이 바뀌었습니다.
의 탄생 "스크립트 키즈'의 탄생은 자신이 사용하는 도구에 대한 이해가 거의 없거나 전혀 없는 개인들이 사이버 환경에 큰 변화를 가져왔습니다. 이러한 개인들은 더 정교한 공격자들의 연막막이 되어 심각한 위협과 단순한 성가심을 구분하는 작업을 더욱 어렵게 만들었습니다.
오늘날에도 비슷한 시나리오가 벌어지고 있습니다. AI 챗봇이 새로운 스크립트 키드들에게 문을 열어주면서, AI에게 악성 코드를 생성하도록 지시하는 방법에 대한 기본적인 이해만 있으면 누구나 악성 코드를 생성할 수 있게 되었습니다. 속담의 기준이 다시 한 번 낮아졌고, 이번에는 거의 바닥에 닿을 지경에 이르렀습니다.
그 결과, 익스플로잇 코드가 있는 취약점의 양은 취약점의 양이 의 양이 크게 증가하여 보안 및 운영 팀의 업무 부담이 가중되고 있습니다. 이전에는 소수의 취약점만 익스플로잇 코드를 사용할 수 있었지만, 현재는 대부분의 취약점에 즉시 사용 가능한 익스플로잇 코드가 있으며, 익스플로잇 코드를 즉시 사용할 수 없는 경우 상황을 바꾸는 데 단 몇 분이면 충분합니다. 이전에는 보안팀이 단기간에 약 5%의 취약점을 완화하는 데 어려움을 겪었다면, 이제는 90~95%에 달하는 취약점을 완화하는 데 어려움을 겪고 있다고 상상해 보세요. 기존의 리소스로는 이러한 급격한 증가를 감당할 수 없습니다.
이러한 변화는 보안 규정 준수 시기와 실제 보안 요구 사항 사이의 격차도 확대합니다. 규정 준수 프레임워크는 취약점 공개부터 패치 배포까지 30일의 기간을 규정하는 경우가 많습니다. 이 기간으로 이미 보안 요구 사항을 충족하는 데 효과적이지 않았다면 "6개월 전" 최근 AI를 이용한 빠른 익스플로잇 개발의 등장으로 인해 이 기간은 매우 부적절합니다.
사이버 보안에 대한 요구가 기존 규정 준수 프레임워크의 역량을 앞지르면서(오래 전에도 그랬고 지금도 마찬가지입니다) 시스템이 장기적인 위험과 취약성에 노출되고 있습니다.
최종 코멘트
AI와 사이버 보안의 교차점에는 가능성과 위험이라는 이분법이 존재합니다. 한편으로 AI는 위협을 예측, 탐지, 대응하는 능력을 향상시킵니다. 다른 한편으로는 그 어느 때보다 정교하고 적응력이 뛰어나며 빠른 새로운 유형의 위협이 발생하고 있습니다.
AI 기반 상호 작용이 특징인 IT의 새로운 시대를 맞이하면서 우리는 기존에 사용하던 대부분의 도구와 프로세스가 새로운 발전을 따라잡지 못할 가능성이 높은 전례 없는 순간에 서 있습니다.
특히 규칙 기반 활동에서 생산성을 향상시킬 수 있는 AI의 잠재력은 엄청납니다. 프로그래밍, 위협 분석, 취약성 테스트, 시스템 평가와 같은 사이버 보안의 측면을 혁신할 수 있습니다. 하지만 다른 측면을 개선하는 데에도 마찬가지로 효과적입니다.
또한 조직은 빠르게 변화하는 위협 환경을 반영하기 위해 규정 준수 프레임워크를 업데이트하는 것을 지지해야 합니다.
궁극적으로 앞으로의 싸움은 악의적인 공격자뿐만 아니라 시간과 기술적 안일함과의 싸움이기도 합니다. AI의 발전 속도가 빠르다는 것은 한 발 앞서 나가는 것이 그 어느 때보다 중요하고 도전적이라는 것을 의미합니다.
[마지막으로, 저자는 이 글을 준비하면서 아이러니하게도 ChatGPT를 사용했음을 인정합니다.]
