이 블로그 글의 AI 요약으로 바로 가기

  • Perplexity를 사용하여 이 게시물을 요약해 주세요
  • Gemini로 이 게시물을 요약해 주세요

OpenJDK 사용자를 위한 CVE-2026-114938 업데이트

2026년 11월 18일 업데이트. TuxCare의 OpenJDK 17 빌드에는 최신 TuxCare 릴리스의 Java4Shell 수정 사항이 포함되어 있습니다. Java 7, 8 및 11에는 취약점이 있는 디코더가 포함되어 있지 않으므로, 해당 OpenJDK 버전을 사용하는 고객은 이 CVE와 관련하여 패치할 사항이 없습니다.

호스트가 업데이트를 즉시 적용할 수 없는 경우, -XX:-UseBASE64Intrinsics startup 플래그는 해당 HotSpot 17 빌드에서 취약점이 있는 코드 경로를 비활성화합니다.

OpenJDK에 대한 무제한 라이프사이클 지원을 받아보세요 →

주요 내용

  • Java4Shell(CVE-2026-114938)은 OpenJDK의 Base64 디코더에서 발생한 힙 오버플로우 취약점으로, Calif가 이를 연쇄적으로 악용하여 원격 코드 실행을 유발했습니다.
  • AVX-512 VBMI가 탑재된 x86-64 서버에서 패치가 적용되지 않은 Java 17.0.6+, 21, 25 및 27 빌드는 보안 위험에 노출되어 있습니다.
  • 오라클, OpenJDK, Corretto 및 Zulu는 2026년 11월 17일에 수정 패치를 배포한 반면, Temurin, Red Hat 및 Ubuntu는 이에 뒤처지고 있다.
  • JVM을 다음 명령어로 시작하려면 -XX:-UseBASE64Intrinsics 수정된 런타임이 설치될 때까지 취약한 코드 경로를 비활성화합니다.

요약

전체 버전으로 이동 ↓

무슨 일이 있었나. Calif는 2026년 11월 17일, 오라클과 OpenJDK 프로젝트가 수정 패치를 배포한 바로 그날 Java4Shell(CVE-2026-114938)을 공개했다. 잘못된 “=” 패딩으로 끝나는 비정상적인 Base64 문자열로 인해 HotSpot의 AVX-512 디코더가 힙 버퍼 끝을 넘어 62 또는 63바이트를 쓰게 되는데, Calif는 이를 Jira, Jenkins, Keycloak과 같은 애플리케이션에서 원격 코드 실행으로 연결했다고 밝혔습니다. 이 섹션으로 이동 →

영향을 받는 대상: AVX-512 VBMI가 탑재된 Intel 또는 AMD x86-64 프로세서에서 Java 17.0.6+, 21, 25 또는 27 계열의 패치되지 않은 빌드를 실행 중인 모든 사용자입니다. 여기에는 Oracle, Corretto, Temurin, Zulu, Red Hat, Microsoft 및 기타 OpenJDK 기반 벤더의 빌드가 포함됩니다. 표준 Java 8, Java 11 및 ARM64 호스트는 영향을 받지 않습니다. 이 섹션으로 이동 →

이 취약점이 얼마나 심각한지. 오라클은 CVSS 3.1 기준 8.1점을, 캘리프는 CVSS 4.0 기준 9.2점을 부여했으며, 레드햇은 영향도를 ‘Critical’로 평가했습니다. 이 취약점을 악용하려면 대상 시스템에 특화된 작업이 필요하지만, 취약한 JVM을 다운시키는 것은 훨씬 더 간단하며, 2026년 11월 18일 현재 실제 공격 사례는 보고된 바 없습니다. 이 섹션으로 이동 →

현재 상황은 다음과 같습니다. 업스트림 릴리스 중 수정된 버전은 17.0.21.1, 21.0.13.1, 25.0.5.1 및 27.0.1.1이며, Amazon Corretto와 Azul Zulu용 수정 사항도 배포되었습니다. 2026년 11월 18일 기준으로 Temurin, Red Hat 및 Ubuntu 빌드는 아직 처리 중이었으며, Debian의 경우 unstable 버전에만 수정 사항이 적용되었습니다. TuxCare의 Endless Lifecycle Support를 이용하는 OpenJDK 17 사용자는 이미 실행 중인 OpenJDK 17 라인 내의 TuxCare 최신 릴리스를 통해 수정 사항을 적용받을 수 있습니다. 이 섹션으로 이동 →

오늘은 무엇을 할까. 제품에 번들로 포함되거나 컨테이너 이미지에 내장된 JVM을 포함하여 모든 JVM을 찾아냅니다. 해당 위치에 수정된 빌드가 있다면 이를 설치하고, -XX:-UseBASE64Intrinsics 벤더의 수정 프로그램이 아직 제공되지 않은 영향을 받은 호스트에서, 어떤 경우든 시스템을 재시작하십시오. 이 섹션으로 이동 →

자세한 내용

지난 30년 동안 자바가 내세워 온 가장 큰 장점은 개발자가 메모리에 대해 신경 쓸 필요가 없다는 점이었다. JVM이 모든 배열 접근을 검사하기 때문에 버퍼 오버플로는 C나 C++에서만 발생하는 문제로 여겨져 왔다. Java4Shell은 JVM 자체가 여전히 C++과 수작업으로 튜닝된 어셈블리 코드로 구성되어 있으며, 안전 장치는 그 위에서 실행되는 코드에만 적용된다는 사실을 상기시켜 준다.

CVE-2026-114938은 수동으로 튜닝된 루틴 중 하나인 AVX-512 Base64 디코더에 존재하며, 최신 인텔 및 AMD 서버 칩에서 HotSpot이 이를 호출합니다. 끝에 잘못된 패딩이 포함된 비정상적인 문자열을 입력하면, JVM이 입력을 거부하기 전에 출력 버퍼 끝을 넘어 쓰기 작업이 발생합니다. 이 취약점을 발견한 캘리프( Calif)는 해당 쓰기 공격을 이용하여 Jira, Jenkins, Keycloak 및 기타 널리 배포된 애플리케이션의 기본 구성에서 작동하는 원격 코드 실행 체인을 구축했다고 밝혔습니다.

이 문제에 대한 수정 사항은 사소하며, 해결 방법은 JVM 플래그 하나를 설정하는 것뿐입니다. 또한 2026년 11월 18일 현재 이 취약점을 악용한 사례는 공개적으로 보고된 바가 없습니다. 더 어려운 점은 여전히 많은 Java 런타임에 수정된 빌드가 적용되지 않았으며, 많은 팀이 실제로 얼마나 많은 JVM을 운영 중인지 명확히 파악하지 못하고 있다는 것입니다.

Base64 버그의 작동 원리

메서드가 충분히 자주 호출되면, HotSpot의 C2 컴파일러는 해당 메서드를 더 빠른 네이티브 코드로 대체합니다. 다음을 포함한 몇 가지 핫 패스의 경우, java.util.Base64 디코딩 과정에서, JVM 엔지니어들이 특정 x86-64 프로세서를 위해 어셈블리 수준에서 직접 작성한 루틴인 내장 함수(intrinsic)를 대신 사용할 수 있습니다. AVX-512 VBMI를 지원하는 칩에서는 Base64 내장 함수가 마스크된 벡터 저장(masked vector stores)을 사용하여 한 번에 64바이트씩 디코딩하며, 이때 64비트 마스크가 실제로 메모리에 기록될 바이트를 결정합니다.

이 버그는 입력의 마지막 청크에 대해 해당 마스크가 생성되는 방식에 기인합니다. 남은 꼬리 부분이 “=”, “==” 또는 “X=”와 같은 형식이 잘못된 패딩 시퀀스인 경우, 루틴은 출력 길이를 0으로 계산한 다음 “=” 하나당 1을 뺍니다. 이로 인해 길이가 -1 또는 -2로 언더플로우됩니다. 마스크를 생성하는 BZHI 명령어는 해당 값의 하위 바이트에서 비트 수를 읽는데, 이 값은 255 또는 254로 나옵니다. 두 값 모두 64비트 피연산자 폭을 초과하므로 마스크의 64비트 전체가 설정된 상태로 유지되고, 저장 명령어는 전체 64바이트를 기록합니다. Calif의 예시에서, 64개의 “A” 문자와 “=”로 구성된 65자 입력은 50바이트의 결과 배열을 생성하며, 디코더는 배열 끝을 넘어 62바이트를 기록합니다. OpenJDK 17의 경우, Calif는 패스트 패스의 길이 임계값이 더 높기 때문에 128개의 “A” 문자와 “=”가 트리거가 된다고 설명합니다.

자바는 실제로 IllegalArgumentException 잘못된 형식의 입력에 대해서는, 쓰기 작업이 이미 완료된 후에야 예외를 발생시키기 때문에, 그 시점에는 힙에서 버퍼 바로 옆에 있던 객체가 이미 손상되었을 수도 있습니다.

오버플로우 바이트는 대부분 공격자가 선택한 데이터가 아닌 고정된 값이기 때문에, 이는 제한적으로 보일 수 있습니다. Calif는 고전적인 브라우저 익스플로잇 기법을 통해 이 한계를 극복했습니다. 오버플로우가 다른 배열의 길이 필드에 위치하도록 힙을 조작한 다음, 그렇게 확장된 배열을 이용해 인접한 배열에 선택한 바이트를 기록하는 방식입니다. 길이 필드가 손상된 두 번째 배열은 그 내용이 HTTP 응답으로 다시 복사되면서 ‘힙 리더(heap reader)’가 되는데, Calif는 이를 ‘JavaBleed’라고 명명했다. 이 단계만으로도 코드가 실행되기 전에 개인 키와 세션 토큰이 유출될 가능성이 있다.

에서 Datadog의 테스트 OpenJDK 17.0.6의 경우, 다음에서 반환되는 기본 디코더와 URL 디코더만 Base64.getDecoder() 그리고 Base64.getUrlDecoder() 취약한 경로에 도달했습니다. MIME 디코더는 그렇지 않으며, 다음을 호출하지 않는 Base64 라이브러리들은 java.util.Base64 내재적 요소를 전혀 건드리지 마세요. 이는 우선순위 결정에 도움이 되지만, 지나치게 의존해서는 안 됩니다. 캘리프는 인증이나 파일 업로드와 같은 일반적인 기능들이 공격자의 입력이 디코더에 도달하는 경로가 될 수 있다고 지적합니다.

어떤 Java 버전과 서버가 영향을 받나요?

세 가지 조건이 모두 충족되어야 합니다.

런타임. Java4Shell은 2026년 11월 17일 수정 패치가 적용되기 전까지, 17.0.6 버전부터 패치가 적용되지 않은 OpenJDK 17 빌드와 21, 25, 27을 포함한 이후 릴리스 라인에 영향을 미칩니다. OpenJDK 17.0.6은 2023년 1월에 출시되었으므로, 이 취약점이 있는 디코더는 거의 4년 동안 OpenJDK 17의 일부로 포함되어 있었습니다. 표준 Java 8 및 Java 11은 x86 디코딩 스텁이 포함되어 있지 않아 영향을 받지 않으며, Java 17.0.0부터 17.0.5까지도 영향을 받지 않습니다. Java 8의 유일한 예외는 오라클의 Java SE 8 Enterprise Performance Pack으로, 오라클은 8u511b33-perf 버전을 취약한 버전으로 명시하고 있습니다.

다른 OpenJDK 공급업체의 패치되지 않은 빌드에도 이 버그가 포함되어 있습니다. Calif의 목록에는 Amazon Corretto, Eclipse Temurin, Microsoft Build of OpenJDK, Azul Zulu, BellSoft Liberica, SAP SapMachine, Red Hat의 OpenJDK, Oracle OpenJDK, Oracle Java SE 및 Oracle GraalVM for JDK가 포함되어 있습니다.

CPU. 이 취약점이 있는 코드는 AVX-512 VBMI를 지원하는 x86-64 칩에서만 실행됩니다. 캘리포니아주에서 발표한 목록에는 인텔 제온 아이스 레이크(Xeon Ice Lake), 사파이어 래피즈(Sapphire Rapids), 에메랄드 래피즈(Emerald Rapids), 그라나이트 래피즈(Granite Rapids)와 더불어, Zen 4 이상 아키텍처를 기반으로 한 AMD EPYC 및 라이젠(Ryzen)이 포함되어 있습니다. 스카이레이크-SP, 캐스케이드 레이크 및 젠 4 이전 AMD 하드웨어는 일반적으로 VBMI가 없어 취약한 경로를 따르지 않으며, AWS 그래비톤과 애플 실리콘을 포함한 ARM64는 전혀 영향을 받지 않습니다. 따라서 위험에 노출된 호스트는 대부분 최신 서버와 클라우드 인스턴스이며, 이는 위험이 오래된 하드웨어에 있다는 일반적인 가정을 뒤집는 것입니다. 하지만 최신이라고 해서 무조건 VBMI가 있는 것은 아니므로, 아래의 CPU 플래그 확인이 진정한 검증 기준이 됩니다.

데이터 경로. 애플리케이션은 공격자가 제어하는 입력을 표준 기본 또는 URL 디코더로 전달해야 하며, 해당 메서드는 C2가 내장 함수를 사용하여 이를 컴파일할 수 있을 만큼 충분히 활발하게 실행되어야 합니다. 트래픽이 많은 웹 서비스에서는 이 두 가지 조건이 모두 충족될 수 있습니다. Calif는 Keycloak, Atlassian Jira, Atlassian Confluence, JFrog Artifactory, Jenkins 및 PingFederate의 기본 구성에서 인증 전 RCE를, Apache Kafka Broker, Apache Solr, Elasticsearch, Gerrit 및 Spinnaker에서 인증 후 RCE를 시연했다고 밝혔습니다. 또한 Calif는 Spring Boot 및 Apache Struts 기반으로 구축된 샘플 앱에서도 RCE를 달성했다고 전했습니다.

그리고 클라이언트 측도 있습니다. Calif에 따르면, 해당 업체에 공유된 한 익스플로잇은 자체적으로 노출된 서비스가 전혀 없이 단순히 악성 서버에 TLS 연결을 열기만 하는 자바 프로그램을 침해한 것으로 나타났습니다. 아웃바운드 호출만 수행하는 배치 작업, 크롤러 및 통합 서비스도 이 범위에 포함됩니다.

의존성 스캔에서 Java4Shell이 누락될 수 있는 이유

Log4Shell 사태를 계기로 많은 팀이 취약한 JAR 파일을 찾아내는 훈련을 받았습니다. 하지만 그런 습관은 이번 경우에는 도움이 되지 않습니다. Java4Shell은 pom.xml 또는 build.gradle, 또한 애플리케이션 종속성만 분석하는 소프트웨어 구성 분석 보고서에는 이 코드가 나타나지 않습니다. 이 취약점이 있는 코드는 JDK 내에 포함되어 있으며, JDK는 대개 컨테이너 기본 이미지, OS 패키지, 벤더 제품에 번들로 제공되는 설치 프로그램, 또는 JAVA_HOME 2023년에 누군가가 설정해 놓고는 그 후로 한 번도 건드리지 않은 것입니다.

이 때문에 CISA의 경보에서는 특히 타사 애플리케이션, 컨테이너 이미지 및 어플라이언스에 번들로 포함된 JDK를 구체적으로 언급하고 있습니다. 패치가 적용된 시스템 JDK는 자체 번들 사본에서 실행되는 제품에는 아무런 효과가 없으며, 패치가 적용된 호스트 역시 재빌드되지 않은 이미지에 내장된 JDK에는 아무런 효과가 없습니다.

라이브러리 위생 관리는 여전히 중요하며, SecureChain for Java는 Maven 관련 부분을 다룹니다. 하지만 이번 경우에는 런타임이 패치 대상입니다. 모든 JVM을 별도의 자산으로 간주하여 목록을 관리하십시오.

Java4Shell이 실제로 얼마나 위험한가

누가 평가하느냐에 따라 다릅니다. 오라클은 CVE-2026-114938에 대해 CVSS 3.1 기준 8.1점을 부여했으며, 이 취약점은 악용하기 어렵지만 네트워크 접근 권한이 필요하고, 권한 상승이나 사용자 상호작용은 필요하지 않으나 공격 복잡도가 높다고 설명합니다. 캘리프는 CVSS 4.0 기준 9.2점을 부여했습니다. 레드햇의 보안 공지( RHSB-2026-018)에서는 이 취약점의 영향을 ‘심각(Critical)’으로 평가했습니다.

Calif는 보편적으로 적용 가능한 익스플로잇은 없다고 밝혔습니다. 각 대상마다 고유한 힙 그루밍 프로필이 필요하며, Calif의 체인은 네트워크 지터와 왕복 시간에 민감하고, 그루밍 시도가 실패하면 JVM이 다운될 수 있습니다. 또한 Calif는 nginx가 기본적으로 수행하는 것처럼 전체 요청 본문을 버퍼링하는 리버스 프록시가 일부 그루밍 경로를 무력화시킨다는 사실도 발견했습니다. 일부일 뿐, 전부는 아닙니다. Calif에 따르면, 자사의 Elasticsearch 체인은 하나의 완전한 요청을 기반으로 작동하므로 버퍼링으로 인해 중단되지 않는다고 합니다.

반대되는 두 가지 요인이 있습니다. 첫째, 코드 실행보다 시스템 충돌을 유발하는 것이 훨씬 쉽습니다. 블랙포인트 사이버(Blackpoint Cyber)는 Spring Security를 사용하는 로컬 Spring Boot 애플리케이션을 통해 이 버그를 발견했으며, 형식이 잘못된 Base64 인증 값을 포함하는 약 28,000건의 인증되지 않은 요청이 약 20초 만에 JVM을 다운시켰습니다. 또한 블랙포인트는 즉각적인 시스템 충돌 없이도 실제 애플리케이션 데이터가 변경되는 현상을 보고했는데, 이는 발견하기가 훨씬 더 어렵습니다. 둘째, Calif는 AI의 도움을 받아 1시간 만에 이 버그를 발견했으며, 2시간 후에는 200달러 미만의 AI 토큰을 사용해 첫 번째 작동 가능한 익스플로잇을 개발했다고 밝혔습니다. Calif는 당분간 제품별 익스플로잇 체인을 공개하지 않을 계획입니다.

2026년 11월 18일 현재, 실제 환경에서 이 취약점이 악용된 사례는 보고된 바가 없습니다. GreyNoise는 당일 UTC 기준 00:48 업데이트 시점까지 Java4Shell 형태의 요청을 단 한 건도 기록하지 않았으며, 해당 CVE는 CISA의 ‘악용된 것으로 알려진 취약점’ 목록에도 포함되지 않았습니다. 그럼에도 CISA는 11월 17일 즉각적인 패치 적용을 촉구하는 경보를 발령했는데, 이는 해당 기관이 이 문제를 얼마나 심각하게 받아들이고 있는지를 보여주는 긍정적인 신호입니다.

이 트리거는 대부분의 사람들이 생각하는 것보다 훨씬 오래전부터 공개되어 있었습니다. The Hacker News에 따르면, 9월 9일 OpenJDK 저장소에 게시된 수정 제안에는 오버플로우를 유발하는 입력 내용이 포함되어 있었으며, 이 제안은 활동이 뜸해진 후 11월 초에 병합되지 않은 채 종료되었다. Calif는 이 버그가 패치가 배포되기 전에 유출되었다고 밝혔다. 수정 패치가 배포되기 전에 Java4Shell이 악용되었다는 공개된 증거는 없으며, 그 이후로도 공격 사례는 보고되지 않았지만, 보안 담당자들은 자신들이 이 세부 사항을 가장 먼저 접한 것이라고 가정해서는 안 된다.

Java4Shell과 Log4Shell의 비교

Log4Shell(CVE-2021-44228)은 CVSS 3.1 기준 10.0점을 기록했으며, 모든 CPU에서 작동했고, 취약한 Log4j 2 버전이 공격자가 제어하는 문자열을 기록할 때마다 발동될 수 있었습니다. 공개 익스플로잇이 빠르게 등장했고, 그 직후 대규모 스캔이 이어졌습니다.

Java4Shell은 적용 범위가 더 좁습니다. 특정 CPU 기능, 웜 JIT, 노출된 디코딩 경로, 그리고 대상별 익스플로잇이 필요하기 때문에 무차별 공격이 발생할 가능성은 훨씬 낮습니다. 반면, 영향 범위와 정리 작업 측면에서는 더 심각한 문제가 있습니다. Log4Shell은 사용자가 찾아서 교체할 수 있는 라이브러리에 존재했습니다. 반면 Java4Shell은 애플리케이션 아래의 Java 런타임에 존재하며, 각 벤더가 자체 일정에 따라 수정 사항을 배포하는 수많은 빌드에 걸쳐 있습니다. 또한 패치된 모든 JVM은 재시작이 필요합니다.

자바 공급업체별 패치 현황

오라클과 OpenJDK 프로젝트는 2026년 11월 17일 태평양 표준시 오후 1시에 수정 패치를 배포했습니다. 수정된 업스트림 릴리스는 17.0.21.1, 21.0.13.1, 25.0.5.1 및 27.0.1.1입니다. 다운스트림 벤더들은 각자의 일정에 따라 해당 소스 코드를 기반으로 자체 버전 번호를 부여하여 빌드하므로, 특정 호스트의 빌드 번호가 보안 권고문의 날짜보다 더 중요합니다.

Java 빌드 영향을 받은 수정 현황 (2026년 11월 18일)
Oracle Java SE 17, 21, 25, 27 17.0.6부터 17.0.21.0.3까지, 그리고 21.0.13.0.3, 25.0.5.0.3, 27.0.1.0.3 및 그 이전 버전 17.0.21.1, 21.0.13.1, 25.0.5.1, 27.0.1.1 (빌드 +4)에서 수정됨
Oracle Java SE 8 엔터프라이즈 성능 팩 8u511b33-perf 8u513-perf에서 수정됨
OpenJDK 업스트림 수정 전의 17.0.6 빌드를 비롯해 21, 25, 27 빌드까지의 Java 17 빌드 17.0.21.1+4, 21.0.13.1+4, 25.0.5.1+4, 27.0.1.1+4 버전에서 수정됨
Amazon Corretto 및 Amazon Linux 17, 21, 25, 27 Corretto 17.0.21.1.2, 21.0.13.1.2, 25.0.5.1.2, 27.0.1.1.4 버전에서 수정되었으며, 해당 Amazon Linux 패키지도 함께 수정되었습니다.
아줄 줄루 17, 21, 25, 27 Azul의 CVE 표에 따라 17.0.21.1+2, 21.0.13.1+2, 25.0.5.1+2, 27.0.1.1+4 버전에서 수정됨
이클립스 테무린 17.0.6 및 이후 버전(17.0.21+9 및 21.0.13+9 포함) 아직 정식 빌드가 공개되지 않았습니다.
Red Hat에서 빌드한 OpenJDK (RHEL 8, 9, 10) 17, 21, 25 RHSB-2026-018에 따라 미해결 사항 수정
Debian openjdk-17, 21, 25, 27 openjdk-21 21.0.13.1+2-1이 11월 18일 unstable에 반영되었습니다. Stable 및 testing은 여전히 취약한 상태입니다.
Ubuntu openjdk-17, openjdk-21 및 그 이후 버전의 OpenJDK 패키지 아직 확정된 패키지나 보안 공지는 없습니다.
마이크로소프트, SapMachine, 리베리카 17.0.6 및 이후 버전 캘리포니아 주에 따르면 영향을 받은 것으로 보이며, 아직 확정된 빌드는 없는 것으로 확인되었습니다.
표준 Java 8, Java 11, Java 17.0.0 ~ 17.0.5 영향을 받지 않음 Java4Shell과 관련된 별도의 조치는 필요하지 않습니다.

컨테이너 이미지는 별도의 항목으로 처리됩니다. 업데이트된 기본 이미지가 먼저 배포되어야 하며, 그 후에 이를 기반으로 빌드된 모든 이미지는 재빌드 및 재배포가 필요합니다. 호스트에서 수정된 패키지는 자체 JDK를 포함하고 있는 컨테이너 내부까지는 적용되지 않습니다.

오늘날 Java4Shell의 위험을 완화하는 방법

런타임에 패치를 적용하는 것이 진정한 해결책입니다. 영향을 받는 모든 JVM에 대해 공급업체에서 제공하는 수정된 빌드를 설치한 다음, 프로세스를 다시 시작하십시오. 실행 중인 JVM은 이미 로드된 코드를 계속 사용하기 때문에, 프로세스 재시작은 필수입니다.

아직 고정된 빌드가 없는 경우, Calif와 Red Hat은 모두 하나의 JVM 플래그를 제시합니다.

-XX:-UseBASE64Intrinsics

이는 HotSpot의 하드웨어 가속 Base64 루틴을 비활성화하고, 취약점이 있는 네이티브 디코더 경로를 사용하지 않는 일반 Java 구현으로 대체합니다. 더 광범위한 대안은, -XX:UseAVX=2, HotSpot을 AVX2로 제한하여 AVX-512 사용을 중단시킵니다. 이 방법은 작동하기는 하지만, JVM 내의 다른 모든 AVX-512 코드 경로를 포기하게 되어 성능 저하를 초래할 수 있으며, Calif는 ARM 환경에서 JVM이 해당 플래그를 인식하지 못해 실행되지 않는다고 지적합니다. 따라서 다양한 아키텍처가 혼합된 환경에서는 바람직하지 않은 기본 설정입니다.

‘좁은’ 플래그를 광범위하게 적용하는 가장 간단한 방법은 다음과 같습니다. JAVA_TOOL_OPTIONS, 이는 HotSpot JVM이 시작 시에 읽어들이는 파일입니다. 이 설정은 해당 환경에서 시작되는 모든 JVM(빌드 도구 포함)에 적용된다는 점을 유의하시기 바랍니다. 따라서 전체 시스템에 적용하기 전에 반드시 테스트해 보시기 바랍니다.

export JAVA_TOOL_OPTIONS="-XX:-UseBASE64Intrinsics"

systemd 서비스의 경우, 다음 명령을 사용하여 드롭인 파일을 엽니다. sudo systemctl edit <service>, 이 두 줄을 추가한 다음 저장하고 서비스를 다시 시작하세요. 하지만 먼저 장치를 확인해 보세요. 만약 이미 설정되어 있다면 JAVA_TOOL_OPTIONS, 대신 해당 값에 플래그를 추가하거나, 그렇지 않으면 드롭인 파일이 기존 내용을 모두 덮어쓸 것입니다.

[Service]
Environment="JAVA_TOOL_OPTIONS=-XX:-UseBASE64Intrinsics"

컨테이너의 경우, 이를 ENV 실행 단계에서. 그런 다음 다시 시작하여 적용되었는지 확인하세요. 자체 런처 스크립트를 사용하는 제품의 경우 환경 변수를 재정의하거나 무시할 수 있으므로, 설정 파일을 무조건 신뢰하기보다는 실행 중인 프로세스의 플래그를 확인하세요.

성능은 어떨까요? Calif의 주장은 가속 디코더가 주로 방대한 양의 Base64 데이터를 처리하는 애플리케이션에 도움이 된다는 것입니다. 요청당 수백 바이트 정도만 디코딩하는 로그인 엔드포인트나 API의 경우, 의미 있는 차이를 느끼기 어려울 것입니다.

사용 중인 Java 공급업체에서 수정된 빌드를 제공하는 경우, 이를 설치하고 시스템을 재시작한 뒤 버전을 확인하십시오. 아직 제공되지 않고 호스트에 AVX-512 VBMI가 지원되는 경우, 오늘 바로 플래그를 설정하고 공급업체에서 릴리스하는 날에 런타임 업데이트가 실행되도록 예약하십시오. 호스트가 ARM64이거나 VBMI가 없는 구형 x86 칩인 경우 이 버그의 영향을 받지 않지만 , 워크로드가 예상보다 훨씬 빈번하게 인스턴스 유형 간에 이동하므로 어쨌든 정기적인 패치 주기에 따라 패치를 적용하십시오.

에지 제어 기능이 어느 정도 도움이 됩니다. CISA는 애플리케이션 경계에서 Base64 입력을 검증하고 크기를 제한하며, 인증되지 않은 액세스를 제한할 것을 권장합니다. 인증 헤더 내의 비정상적으로 패딩된 Base64를 대상으로 하는 WAF 규칙을 적용하면 어느 정도 방어 효과를 기대할 수 있지만, 오탐이 발생할 수 있으므로 이를 근본적인 해결책으로 간주해서는 안 됩니다.

서버 빠른 점검

먼저 CPU부터 살펴보겠습니다. 리눅스에서 Calif의 검사 기능은 취약점이 발생하는 경로에 필요한 네 가지 CPU 플래그를 확인합니다.

grep -m1 '^flags' /proc/cpuinfo | tr ' ' '\n' | grep -E '^(avx512f|avx512bw|avx512vbmi|bmi2)$'

네 가지 조건이 모두 충족되면, 해당 하드웨어는 필수 요건을 충족합니다. 만약 avx512vbmi 이 없으면, 해당 호스트에서는 취약한 디코더 경로가 사용되지 않습니다.

다음으로, 이름이 다음과 같은 실행 중인 프로세스를 나열하십시오. java 사용자의 JVM뿐만 아니라 모든 서비스 계정에 걸쳐 PATH. 일반 사용자는 다른 사용자의 프로세스를 확인할 수 없으므로, 이 명령을 루트 권한으로 실행하십시오.

sudo sh -c 'for p in (pgrepjava);doreadlink-f/proc/p/exe; done' | sort -u

이 목록을 완전한 목록이라기보다는 출발점으로 삼으십시오. 다른 이름으로 실행된 JVM, 현재 실행 중이 아닌 설치된 패키지, 벤더 제품에 번들로 포함된 런타임, 컨테이너 이미지 등은 모두 별도로 확인해야 합니다.

그런 다음 각 런타임의 버전과 내장 함수가 활성화되어 있는지 확인하고, 이전 단계에서 확인한 경로를 적용해 보세요.

/path/to/bin/java -version
/path/to/bin/java -XX:+PrintFlagsFinal -version | grep -E ' (UseAVX|UseBASE64Intrinsics) '

버전이 해당 범위에 속하는 경우, CPU 검사는 통과된 것으로 간주되며, UseAVX 2보다 크고 UseBASE64Intrinsics 사실, JVM이 해당 취약점이 있는 경로를 사용할 가능성이 있습니다. 이미 실행 중인 프로세스의 경우, jcmd 실행 권한이 있는 플래그를 표시합니다. 프로세스의 소유자와 동일한 사용자로 이 명령을 실행하십시오.

jcmd <pid> VM.flags -all | grep -E 'UseAVX|UseBASE64Intrinsics'

Calif는 또한 디코더를 예열하고, 잘못된 형식의 입력을 공급한 뒤, 영향을 받는 JDK에서 “REPRODUCED”를 출력하는 경계 지정된 개념 증명(PoC)을 공개했습니다. 이 PoC는 모든 쓰기 작업을 실제 4096바이트 배열 내에서 수행하도록 설계되었지만, 각 프로덕션 런타임의 복사본을 대상으로 격리된 테스트 환경에서 실행됩니다. Java 17을 사용하는 환경의 경우 한 가지 주의할 점이 있습니다. 공개된 PoC는 65자 트리거(64개의 'A' 문자 + '=')를 사용하지만, Calif에 따르면 OpenJDK 17에서는 128개의 'A' 문자 + '='가 필요하다고 합니다. 따라서 Java 17 런타임에서 'NOT REPRODUCED' 결과가 나온다고 해도 큰 의미가 없습니다. 벤더가 공개한 수정된 빌드 번호가 바로 런타임에 패치가 적용되었음을 입증하는 확실한 증거입니다.

OpenJDK에 대한 무한 라이프사이클 지원의 현황

TuxCare는 OpenJDK 7, 8, 11 및 17을 지원하며, 특정 빌드의 지원 기간이 종료된 후에도 보안 수정 사항을 지속적으로 제공합니다. 이 네 가지 버전 중 세 가지는 Java4Shell의 영향을 받지 않습니다. Java 7, 8 및 11에는 x86 Base64 디코딩 스텁이 포함되어 있지 않으므로, 해당 버전을 사용하는 고객은 이 CVE와 관련하여 패치할 사항이 없습니다.

OpenJDK 17의 경우는 사정이 다릅니다. 17.0.6 이후 버전의 패치되지 않은 17 빌드에는 취약점이 있는 디코더가 포함되어 있으며, TuxCare의 OpenJDK 17 패키지도 해당 범위에 속했습니다. TuxCare 엔지니어들은 Java4Shell 수정 사항이 최신 릴리스에 포함되어 있음을 확인했으므로, 고객은 기존에 사용하던 리포지토리를 통해 이를 적용할 수 있습니다. 이 수정 사항은 고객이 이미 실행 중인 OpenJDK 17 라인에 적용되며, 메이저 버전 변경이나 그에 수반되는 호환성 작업이 필요하지 않습니다.

OpenJDK 버전 Java4Shell의 영향을 받음 TuxCare 현황 (2026년 11월 18일)
OpenJDK 7 아니요 영향을 받지 않음
OpenJDK 8 아니요 영향을 받지 않음
OpenJDK 11 아니요 영향을 받지 않음
OpenJDK 17 네, AVX-512 VBMI 호스트에서는 그렇습니다. 최신 TuxCare 릴리스에서 수정됨

즉시 업데이트를 적용할 수 없는 호스트의 경우, -XX:-UseBASE64Intrinsics TuxCare의 OpenJDK 17에서도 이 코드는 다른 영향을 받는 HotSpot 17 런타임과 동일한 방식으로 작동합니다.

선택지를 고민 중인 분들께 한 가지 더 말씀드리자면, Java4Shell과 같은 소식은 팀들이 서둘러 메이저 버전 업그레이드를 단행하도록 부추기는 요인이 됩니다. 압박감 속에서 17 버전에서 21이나 25 버전으로 바로 넘어가는 것은, 새로운 빌드 자체가 패치된 경우에만 도움이 됩니다. 해당 라인의 패치되지 않은 빌드에는 동일한 버그가 포함되어 있기 때문입니다. 가장 빠르고 안전한 방법은 이미 운영 중인 버전의 패치된 빌드를 사용하는 것입니다.

강제 업그레이드 없이 현재 OpenJDK 버전에 대한 패치를 계속 적용하세요. OpenJDK에 대한 무제한 라이프사이클 지원 알아보기 →

Java4Shell에 대한 간단한 답변

Java 8도 Java4Shell의 영향을 받나요? 표준 Java 8 빌드는 취약점이 있는 디코드 스텁을 포함하지 않기 때문에 영향을 받지 않습니다. Java 8에서 유일한 예외는 오라클의 Java SE 8 Enterprise Performance Pack이며, 오라클은 8u511b33-perf 버전을 영향을 받는 버전으로 명시하고 있습니다.

Java 11도 영향을 받나요? 아닙니다. Java 11에도 x86 디코딩 스텁이 없습니다.

ARM 서버도 영향을 받나요? 아닙니다. AWS Graviton 및 Apple 실리콘을 포함한 ARM64 호스트는 x86 스텁을 생성하지 않습니다.

Java4Shell이 악용되고 있나요? 2026년 11월 18일 현재로서는 아닙니다. 실제 환경에서 악용된 사례는 보고된 바 없으며, 해당 CVE는 CISA의 KEV 카탈로그에 등재되어 있지 않습니다.

이것이 Log4j의 문제일까요? 아닙니다. 이 버그는 로깅 라이브러리나 다른 애플리케이션 종속성이 아니라 JDK 자체의 Base64 디코더에 있습니다.

이 해결 방법이 다른 문제를 일으키지는 않나요? 그리고 -XX:-UseBASE64Intrinsics 이 플래그는 가속 디코더를 일반 디코더로 교체할 뿐입니다. 대부분의 애플리케이션에서는 큰 차이를 느끼지 못할 수 있지만, 전체 시스템에 적용하기 전에 간단히 테스트해 보는 것이 현명합니다.

모든 환경에서 런타임 패치 적용하기

Java4Shell은 런타임 문제이며, 런타임 문제는 발견하기 어렵습니다. 이를 위해서는 AVX-512 VBMI를 지원하는 x86-64 서버, 17.0.6 버전 이후의 패치되지 않은 OpenJDK 빌드, 그리고 네트워크에서 Base64를 디코딩하는 코드 경로가 필요하며, 이러한 조합은 최신 엔터프라이즈 Java 환경에서 흔히 볼 수 있습니다. 현재 취해야 할 실질적인 조치는 간단합니다. 번들형 및 컨테이너화된 JVM을 포함한 모든 JVM을 파악하고, 벤더 빌드가 있는 경우 패치를 적용하며, 설정 -XX:-UseBASE64Intrinsics 영향을 받은 호스트에서 수정 패치가 나올 때까지 기다린 후 시스템을 재시작하십시오. 그런 다음 Temurin, Red Hat, Debian 및 Ubuntu의 동향을 주시하십시오. 2026년 11월 18일 기준으로 해당 수정 패치는 아직 출시되지 않았거나 부분적으로만 공개된 상태였기 때문입니다.

공급업체가 지원을 중단한 시점 이후에도 OpenJDK를 계속 운영하는 팀의 경우, TuxCare의 ‘OpenJDK를 위한 무한 수명주기 지원(Endless Lifecycle Support )’ 서비스를 통해 운영 중인 정확한 버전에 보안 패치가 지속적으로 제공되므로, 차기 Java4Shell 사태가 발생하더라도 강제 마이그레이션을 피할 수 있습니다.

Java4Shell 연혁

날짜 이벤트
1월 2023 OpenJDK 17.0.6에는 AVX-512 Base64 디코딩 내장 함수가 포함되어 있으며, 이는 취약점이 있는 코드를 포함하고 있는 최초의 Java 17 릴리스입니다.
9월 9, 2026 The Hacker News에 따르면, 트리거링 입력이 포함된 OpenJDK 수정안 제안이 공개되었다고 합니다.
2026년 11월 초 제안된 수정안은 활동이 중단된 후 병합되지 않은 상태로 종료되었습니다.
11월 17, 2026 오라클이 11월 중요 보안 패치 업데이트를 발표했으며, OpenJDK는 수정된 빌드가 포함된 보안 권고문을 공개했습니다.
11월 17, 2026 Calif는 Java4Shell에 대한 분석 보고서와 개념 증명(PoC)을 공개했으나, 특정 제품에 대한 익스플로잇 체인은 공개하지 않았다.
11월 17, 2026 CISA는 즉각적인 패치 적용을 촉구했으며, 레드햇은 RHSB-2026-018을 공개했고, 아마존 코레토와 아줄 줄루는 수정된 빌드를 배포했습니다.
11월 18, 2026 데비안(Debian)이 수정된 openjdk-21을 unstable에 반영했습니다. Temurin, Red Hat 및 Ubuntu의 수정 사항은 아직 처리 중이며, 이 취약점을 악용한 사례는 보고된 바 없습니다.

출처

Calif, Java4Shell 관련 글

OpenJDK 취약점 공지, 2026년 11월 17일

오라클 중요 보안 패치 업데이트 공지, 2026년 11월

중대한 자바 취약점에 대한 CISA 경보

레드햇 보안 공지 RHSB-2026-018

CVE-2026-114938 기록

아줄 줄루 CVE 표, 2026년 11월

Amazon Linux CVE-2026-114938 페이지

The Hacker News, CISA, Java4Shell에 대한 즉각적인 패치 적용 촉구

The Hacker News, Java4Shell을 통해 인증 전 원격 코드 실행(RCE) 가능

Datadog Security Labs, Java4Shell 분석

Blackpoint Cyber, Java4Shell 테스트

GreyNoise, Java4Shell 활동 추적기

TuxCare OpenJDK 문서

4,500명 이상의 Linux 및 오픈 소스 전문가와 함께하세요!

한 달에 두 번. 스팸이 없습니다.

목차
필요한 오픈 소스 보안에 대한 답변 얻기

4,500명 이상의 Linux 및 오픈 소스 전문가와 함께하세요!

한 달에 두 번. 스팸이 없습니다.