Nginx HTTP/2 RCE: 프로토콜 복잡성이 공격 표면이다
Nginx HTTP/2 RCE 취약점은 상태 기반 프로토콜 파서에 치명적 버그가 숨어 있음을 보여줍니다. 이유와 점검 포인트를 정리했습니다.

인터넷에서 가장 위험한 코드는 여러분의 애플리케이션이 아닙니다. 그 앞단에서 C로 작성된, 다들 충분히 검증되었다고 믿는 상태 기반(stateful) 프로토콜 파서입니다. 새로 공개된 Nginx HTTP/2 RCE 취약점, CVE-2026-123633과 CVE-2026-123007은 둘 다 인증이 필요 없고 CVSS 9.2로 평가되었습니다. 이 주장을 증명하는 가장 깔끔한 사례라 할 만합니다. 그중 하나로 연구자들은 정적 파일만 제공하는 기본 설정의 Nginx에서 셸을 얻었습니다. 백엔드 앱도, 서드파티 모듈도, 애플리케이션 버그도 없었습니다. 그냥 Nginx와 HTTP/2, 그리고 2015년 1.9.5 버전부터 코드에 남아 있던 정수 언더플로 하나였습니다.
여기가 역발상 포인트입니다. 우리는 자체 코드를 감사하는 데 엄청난 노력을 쏟지만, 정작 맨 앞단은 거의 들여다보지 않습니다. 그런데 TLS를 종료하고 모든 트래픽을 들여다보는 바로 그 맨 앞단에서, 10년 묵은 메모리 손상 버그 하나가 인증되지 않은 누군가에게 서버의 코드 실행 권한을 넘겨줄 수 있습니다.
Nginx의 HTTP/2가 처음부터 위험한 선택이었던 이유
HTTP/1.1은 텍스트 프로토콜입니다. 단순하고 장황하며, 파싱 방식도 '구분자까지 바이트를 읽고, 검증하고, 분기한다'는 흐름에 자연스럽게 맞습니다. HTTP/1 파서에서도 버그가 많이 나왔습니다. 요청 스머글링은 그 자체로 한 장르를 이룰 정도입니다. 그래도 상태 머신이 작아서, 꼼꼼한 엔지니어라면 머릿속에 전체를 담아둘 수 있습니다.
HTTP/2는 전혀 다른 물건입니다. 바이너리 프레임 기반이고, 멀티플렉싱을 하며, 상태가 연결 전체에 걸쳐 얽혀 있습니다. 하나의 TCP 연결에 수십 개의 동시 스트림이 실립니다. 흐름 제어는 스트림별, 연결별로 슬라이딩 윈도우 크레딧으로 추적됩니다. 스트림은 클라이언트가 원하는 순서대로 열리고, 반쯤 닫히고, 리셋되고, 우선순위가 바뀝니다. HPACK 헤더 압축 때문에 파서는 프레임이 도착할 때마다 변하는 공유 동적 테이블을 유지해야 합니다. 이런 기능 하나하나가 적대적 입력 아래서도 일관성을 유지해야 하는 가변 상태입니다. 그리고 그 입력은 전부 클라이언트가 통제합니다.
Nginx는 HTTP/2 모듈을 추가하면서 이 상태 관리 구조를 통째로 떠안았고, 그것도 C로, 이벤트 기반 아키텍처 위에서 구현했습니다. 연결과 스트림은 힙 객체이고, 수명 관리는 손으로 합니다. 교차하는 복잡한 상태 + 수동 메모리 관리, 이 조합이야말로 use-after-free와 정수 언더플로 버그가 자라기 딱 좋은 환경입니다. 이번 두 CVE는 이 장르를 거의 교과서처럼 보여줍니다. 하나는 요청이 활발히 쓰고 있는 연결 객체가 '닫아도 안전한' 목록에 그대로 남아 있는 경우이고, 다른 하나는 흐름 제어 계산이 0 아래로 감겨 잘못된 메모리 복사를 일으키는 경우입니다.
예전에 명세와 구현 사이의 간극을 다루면서, 버그는 명세의 암묵적 불변식이 그것을 강제하지 않는 코드와 만나는 지점에 몰린다고 주장한 적이 있습니다. HTTP/2가 그 좋은 사례입니다. RFC 7540(그리고 지금은 9113)은 정상적인 흐름이 어떤 모습인지를 명시합니다. 위험한 영역은 명세가 금지하지 않았지만 구현이 한 번도 테스트하지 않은 모든 부분입니다. 일부만 도착한 프레임, 이상한 순서의 상태 전이, 경계값에서 조작된 윈도우 같은 것들이죠.
use-after-free: 사용 중인데도 재사용 가능한 상태
CVE-2026-123633은 두 버그 중 더 우아한 쪽이고, 천천히 읽어볼 가치가 있습니다. Nginx는 새 연결 슬롯이 필요할 때 닫아도 안전한 '재사용 가능' 연결 목록을 관리합니다. HTTP/2 연결은 활성 요청 스트림이 없을 때 이 목록에 올라갑니다. 여기까지는 합리적입니다.
문제는 연결이 이 목록에서 빠져나가는 방식에 있습니다. 아니, 정확히는 빠져나가지 않는 것이 문제입니다. HEADERS 프레임을 일부만 보냅니다. Nginx는 불완전한 프레임을 보고 연결을 재사용 가능으로 표시한 뒤 기다립니다. 이제 프레임의 나머지를 보냅니다. 핸들러는 새 요청 스트림을 만들고 연결의 처리 카운터를 증가시키지만, 연결을 재사용 목록에서 제거하지는 않습니다. 이제 연결은 살아 있는 요청을 처리하는 동시에 폐기 가능 상태로 표시되어 있습니다. 연결 슬롯이 부족해지면 Nginx는 목록을 뒤져 그 연결을 해제하고, 처리 중이던 요청은 해제된 메모리를 가리킨 채 남습니다. 고전적인 use-after-free이고, HTTP/2를 말할 줄 아는 인증되지 않은 클라이언트라면 누구든 리버스 프록시를 통해 도달할 수 있습니다.
이걸 코드 읽기만으로 찾아내기가 얼마나 어려운지 짚어볼 필요가 있습니다. 여러 패킷에 나뉘어 들어온 네트워크 입력이 촉발하는 두 번의 상태 전이를 거치며, 객체가 하나의 자료구조에 속해 있는지를 끝까지 추적해야 합니다. 린터가 잡아낼 버그가 아닙니다. 대부분의 퍼저도 쉽게 찾지 못합니다. 부분 프레임, 대기, 나머지 프레임이라는 특정한 2단계 상호작용이 필요하고, 닫기를 촉발할 메모리 압박까지 더해져야 하기 때문입니다. Nginx는 지구상에서 가장 많이 읽히는 코드베이스 중 하나인데도, 이런 버그가 거의 6년 동안 숨어 있었습니다.
정수 언더플로: 10년 동안 공개된 채로 있던 버그
CVE-2026-123007은 더 오래됐고, 어떤 면에서는 더 나쁩니다. HTTP/2 흐름 제어는 각 스트림과 연결에 송신 윈도우를 부여하는 방식으로 동작합니다. 송신자는 전송할 때마다 크레딧 잔량을 줄이고, 수신자는 WINDOW_UPDATE 프레임으로 이를 다시 채웁니다. 이 윈도우 계산이 틀어지면, 감긴(wrap-around) 값으로 복사 크기를 계산하게 되고, 어느 순간 건드리면 안 되는 메모리에서 혹은 그 메모리로 memcpy를 하게 됩니다.
연구자들은 이 원시 기능(primitive)만으로, 기본에 가까운 설정에서 원격 코드 실행을 시연했습니다. 64비트 시스템에서 HTTPS로 정적 파일을 제공하는 Nginx였습니다. ASLR도 막지 못했습니다. 두 취약점 모두 코드 실행으로 넘어가기 전에 메모리 읽기 원시 기능으로도 쓰이기 때문입니다. 포인터를 leak해 무작위화를 무력화한 뒤 쓰기를 하면 됩니다. 이건 현대 익스플로잇의 표준 기법이지만, 한번 체화해둘 가치가 있습니다. ASLR 같은 완화 기법은 공격 비용을 올릴 뿐 공격을 막지는 못하며, 읽기와 손상 쓰기를 동시에 주는 버그는 사실상 게임 오버입니다.
이 언더플로는 2015년 Nginx 1.9.5에 들어갔습니다. 11년입니다. 그동안 수많은 엔지니어가 코드를 검토했고, 수백만 운영자가 배포했으며, 상용 정적 분석기들이 모두 스캔했고, 퍼징도 받았습니다. Nginx는 실제로 퍼징을 받습니다. 그래도 전부 살아남았습니다. '성숙한 오픈소스는 눈이 많아서 안전하다'는 믿음을 이것으로 재조정하지 못한다면, 아무것도 못 할 겁니다.

불편한 진실: 퍼징이 놓친 것을 AI가 찾아냈습니다
보안 팀이 밤잠을 설쳐야 할 세부 사항이 있습니다. Wiz는 AI 기반 코드 스캐닝 하네스로 두 버그를 모두 찾아냈고, 이후 프런티어 모델로 익스플로잇 가능성을 검증했습니다. 그들만 찾은 것도 아닙니다. Ikotas Labs, Metnir, Rapid7, Xint가 같은 공개 기간에 같은 취약점을 F5에 독립적으로 보고했습니다. 다섯 팀이 10년 묵은 두 버그를 같은 시점에 동시에 찾아낸 겁니다.
이건 우연이 아닙니다. 상전이입니다. 예전에는 오래된 메모리 안전성 버그를 보호하던 현실적 장벽이 원리적으로 찾을 수 없어서가 아니었습니다. 수십 개 코드 경로에 걸친 상태를 추적하는 데 사람의 주의력이 너무 많이 들었기 때문입니다. 이제 모델이 바로 그런 다중 홉 추론을 충분히 잘하게 되면서 그 비용이 붕괴했습니다. 최근에도 같은 패턴을 Java4Shell에서 65바이트가 RCE가 된 사례에서 봤습니다. 지친 사람보다 미묘한 상호작용을 더 잘 따라가는 도구가 오래된 결함을 수면 위로 끌어올린 것입니다.
여기서 두 가지 함의가 따라옵니다. 솔직하게 말하겠습니다. 첫째, 모든 방어 팀이 이제 같은 발견 능력을 갖고 있으니, 남이 찾기 전에 여러분의 스택에 먼저 돌려보세요. 둘째, 그리고 여기서 제가 서두의 주장에 한계가 있다는 점을 인정합니다. 공격자도 같은 능력을 가지고 있고, '버그가 발견 가능해지는 순간'과 '버그가 악용되는 순간' 사이의 간격이 좁아지고 있습니다. Hacker News 토론에서 불쾌한 세부 사항이 드러났습니다. 한 CVE의 수정 커밋이 공개 저장소에 일주일 동안 있었고, 커밋 메시지에 보고한 보안 업체 이름이 적혀 있었습니다. 보안 수정 커밋을 훑는 것은 잘 알려진 블랙햇 기법인데, 이들은 그 덕에 미리 출발선에서 앞서 있었습니다. 조율된 공개(coordinated disclosure) 절차는 발견이 드문 세상을 전제로 설계됐습니다. 그 세상은 이미 끝났습니다.
프로토콜 파서 퍼징을 위한 교훈
프록시, API 게이트웨이, 서비스 메시, 자체 프로토콜 등에서 네트워크 노출 파서를 유지보수하고 있다면(우리 대부분이 그렇죠), 이 버그들은 여러분의 테스트가 취약할 가능성이 높은 지점을 훑어볼 체크리스트가 됩니다.
- 메시지가 아니라 시퀀스를 퍼징하세요. 두 CVE 모두 여러 단계의 상호작용을 요구합니다. 부분 프레임, 멈춘 연결, 경계값에서의 윈도우 업데이트 등이죠. 단일 프레임만 변형하는 퍼저는 '프레임 A, 대기, 프레임 B'가 필요한 버그를 절대 찾지 못합니다. 연결 생명주기를 모델링하는 상태 기반 또는 문법 인식 퍼징을 사용하세요.
- 자원 압박 상태에서 객체 수명을 테스트하세요. UAF는 Nginx가 연결 슬롯을 회수해야 할 때만 발동합니다. 테스트는 인위적으로 낮은 자원 한도에서 돌려서 해제 경로가 실행되도록 하세요.
- 모든 상태 전이마다 불변식을 단언하세요. '처리 중 값이 0보다 크면 연결은 재사용 목록에 있으면 안 된다'는 단언 하나로 검사할 수 있습니다. 값싼 불변식이 코드 리뷰가 놓치는 버그를 잡아냅니다.
- 디버그 빌드에서 정수 오버플로를 트랩하세요. 흐름 제어 연산에서의 부호 있는/없는 감김이 바로 CVE-2026-123007을 만든 원인입니다. Sanitizer(UBSan)와 퍼징을 함께 썼다면 몇 년 전에 이미 경고가 떴을 겁니다.
- 상위 프로젝트의 커밋 중 조용한 보안 수정을 살펴보세요. 방어자도 공격자가 하는 게임을 똑같이 할 수 있습니다. 수정으로 보이는 커밋을 감시하면 며칠은 먼저 대응할 수 있습니다.
공개 절차에 대한 교훈도 하나 있습니다. 여러 공개 사례를 다뤄오며 얻은 것인데, 공개 기한이 점점 짧아지는 이유는 패치와 익스플로잇 사이의 간격이 계속 좁아지기 때문입니다. 개별 수정 하나보다 대응 절차 자체, 즉 인벤토리 파악, 우선순위 결정, 단계적 롤아웃이 더 중요합니다.
지금 바로 Nginx 배포에 무엇을 해야 할까
해결책은 지루하지만 그게 좋은 소식입니다. Nginx OSS는 1.30.7 stable 또는 1.31.9 mainline으로 업그레이드하세요. Nginx Plus 고객은 패치된 R33/R37 릴리스가 필요합니다. 이번 주에 업그레이드할 수 없다면 HTTP/2를 끄세요. 1.25.1 이상에서는 영향받는 server 블록에 http2 off;를 넣고, 이전 버전에서는 listen 지시어에서 http2 매개변수를 제거하면 됩니다. 그런 다음 리로드하고 이전 워커가 모두 종료됐는지 확인하세요. 거친 완화책입니다. 멀티플렉싱과 헤더 압축을 잃고, 지연에 민감한 앱은 체감할 겁니다. 하지만 두 버그를 완전히 막을 수 있고, 코드 변경이 아니라 설정 변경입니다.
탐지에 대해 솔직히 말하자면, 로그에서 이런 공격을 찾아내기는 어렵습니다. 익스플로잇은 이상한 HTTP/2 프레임 시퀀스로 나타나고, 결국에는 예상치 못한 워커 크래시나, Nginx 워커가 절대 띄우면 안 될 프로세스를 띄우는 모습으로 드러납니다. HTTP/2가 켜진 인터넷 노출 Nginx에서 워커가 계속 재시작을 반복한다면, 단순히 supervisor가 재시작하게 두지 말고 조사해야 합니다.
범위에 대한 메모 하나 더 있습니다. Nginx에서 HTTP/2는 기본으로 켜져 있지 않고, 조사에 따르면 사용률은 서버의 약 12% 수준입니다. 인터넷 규모로는 여전히 수백만 대입니다. 다만 당황하기 전에 확인하세요. 로드 밸런서와 CDN 오리진도 함께 확인하세요. 관리형 인그레스 뒤에서 잊고 있던 Nginx가 결국 장악당하는 그 Nginx입니다.
복잡성은 한 번도 보안 경계가 아니었습니다. 그저 대기열이었을 뿐이고, 이제 그 대기열은 훨씬 빠르게 움직이고 있습니다.
중요 인프라에 대한 더 큰 교훈
한 발 물러서 보면 패턴이 분명합니다. 가장 중요한 버그들은 이제 모두가 공유하는 인프라의 상태를 가진, 메모리 안전하지 않은 프로토콜 구현에 있습니다. 이번 공개로만 Nginx CVE가 열 개 나왔습니다. HTTP/2 UAF, HTTP/3 UAF, DNS 리졸버 UAF, 메일 프록시 UAF까지 있습니다. 공통점은 부주의함이 아닙니다. Nginx 코드베이스는 C 기준으로 보면 꽤 규율이 잡혀 있습니다. 공통점은, 비동기적이고 공격자가 구동하는 상태 머신 전반에 걸친 수동 수명 관리가 어떤 팀도 눈으로 검증할 수 있는 수준을 넘어섰다는 것입니다.
그래서 어떻게 해야 할까요? '전부 Rust로 다시 쓰자'는 솔깃하지만 그건 답이 아닙니다. 가장 노출이 큰 파서를 메모리 안전한 언어로 다시 작성하는 것은 분명 좋은 아이디어이고, 업계도 천천히 그렇게 하고 있습니다. 더 당장 할 수 있는 일은 이것입니다. 엣지 프록시를 스택에서 가장 가치 높은 감사 대상으로 취급하고, 의존하는 프로젝트에 상태 기반 퍼징과 Sanitizer를 요구하고, 며칠 안에 패치하거나 완화할 수 있는 운영 역량을 기르세요. 11년 된 버그가 누군가 알아차리기를 조용히 기다릴 수 있던 시대는 끝났습니다. 이제 양쪽 모두에서 기계가 대기열을 읽고 있습니다.



