🖥️ [클래식] Meltdown — CPU의 '비순차 실행' 부작용으로 커널 메모리를 통째로 읽어낸 하드웨어 취약점 (2018)

논문 정보

연구 배경 — "커널 메모리는 읽을 수 없다"는 전제

모든 현대 OS의 보안은 메모리 격리(memory isolation)라는 단일 전제 위에 세워져 있다. 커널 주소 영역은 사용자 프로세스에서 접근 불가로 표시되어 있고, CPU의 권한 비트(ring)가 이를 강제한다. 유저 프로세스가 커널 주소를 읽으려 하면 페이지 폴트가 발생하고 프로세스는 죽는다 — 이것이 수십 년간 '당연한' 사실이었다. Meltdown은 이 '당연함'이 하드웨어의 성능 최적화 — 비순차 실행(out-of-order execution) 때문에 지켜지지 않음을 증명한다. 소프트웨어 취약점도, OS 버그도 없이, 일반 유저 프로세스가 커널 메모리 전체(다른 프로세스의 비밀번호, 파일 캐시, 패스워드 등)를 읽어낼 수 있음을 보인 것이다.

핵심 내용 — 권한 검사는 '순서대로 실행'될 때만 의미가 있다

• 비순차 실행의 부작용: 최신 CPU는 명령어를 프로그램 순서대로 처리하지 않는다. 성능을 위해 순서를 뒤섞어 실행하고, 결과만 원래 순서대로 '은퇴(retire)'시킨다. Meltdown은 이 과정에서 권한 위반(privilege fault)이 발생하는 load 명령어도, 폐기되기 전까지는 실제로 실행된다는 점을 이용한다 — 권한 검사는 은퇴 단계에서야 이루어지기 때문이다.
• 트랜잭트 명령어(transient instructions): 폐기될 운명인 권한 위반 load가 커널 주소의 값을 레지스터로 가져오면, 그 직후 이 값을 주소로 쓰는 후속 명령어들도 '트랜잭트하게' 실행된다. 이 명령어들은 결과가 폐기되지만, 캐시에 남기는 흔적(side effect)은 폐기되지 않는다.
• 3단계 공격 절차: ① 유저 영역에서 커널 주소를 읽는 faulting load를 던져 값을 캐시에 유출 → ② 유출된 값으로 특정 캐시 라인에 접근하는 트랜잭트 명령어 실행 → ③ Flush+Reload 기법으로 '어느 캐시 라인이 로드됐는지'를 시간차로 측정해 1바이트를 복원. 이를 반복하면 커널 메모리 전체를 덤프할 수 있다.
• 피해 범위: 최소 2010년 이후의 인텔 마이크로아키텍처 전반에서 동작하며(그 후 ARM Cortex-A75 등에서도 확인), OS에 독립적이고 가상화 환경(para-virtualization)의 격리도 함께 깨뜨린다. 근본 원인은 소프트웨어가 아니라 CPU 하드웨어 자체다.
• 완화책 — KPTI: 커널이 사용자 공간에 매핑하던 페이지 테이블 항목을 제거하는 KAISER/KPTI(Kernel Page-Table Isolation)가 Linux 4.15 등에 긴급히 적용됐다. 커널 주소를 유저 공간에서 아예 '보이지 않게' 해서 공격 표면을 없애는 대가로, 시스템 콜 오버헤드에 따른 성능 하락이 전 산업계의 논쟁이 되었다.

"The root cause of Meltdown is the hardware. The attack is independent of the operating system, and it does not rely on any software vulnerabilities." — Lipp et al. (arXiv:1801.01207)

영향과 의의

• 사이드채널 공격의 패러다임 전환: 2018년 1월 3일, Meltdown은 Spectre와 함께 Project Zero(TU Graz·Cyberus 등 다수 팀의 사전 조율)를 거쳐 동시 공개됐다(CVE-2017-5754). '추측 실행(speculative execution)의 부작용'이라는 전혀 새로운 공격 부류가 학계와 산업계에 동시에 던져졌다.
• 전 산업계 패치 대란: OS 벤더(마이크로소프트·애플·리눅스)는 물론 AWS·Azure·GCP 등 클라우드 제공사가 전 세계 인프라를 순차 재부팅하며 마이크로코드·커널 업데이트를 적용했다. CPU 마이크로아키텍처 결함 하나가 인터넷 전체의 운영 일정을 바꾼 첫 사례였다.
• "하드웨어도 신뢰 경계"라는 교훈: OS와 소프트웨어가 아무리 안전해도, 그 아래 CPU가 보안 가정을 어기면 모든 소프트웨어 보안이 무의미해질 수 있음을 보여줬다. 이후 CPU 설계에서 보안이 1급 요구사항이 되고, 클라우드 테넌트 격리 연구에도 깊은 영향을 남겼다.
• 트랜지언트 실행(transient execution) 연구의 시작: Meltdown은 이후 Spectre 변종들, Foreshadow(L1TF), ZombieLoad, RIDL·Fallout, MDS 등 '트랜지언트 실행 공격' 계열 전체의 출발점이 되었다. 학계에 하나의 새로운 하위 분야를 만든 논문으로 평가된다.
• 함께 보면 좋을 시리즈: 같은 Kocher가 저술에 참여한 타이밍 공격 고전(1996, 08-31 게시), 차분 분석(09-04), 그리고 소프트웨어 버퍼 오버플로우 고전 Smashing the Stack(08-30)과 대비하면 — '소프트웨어 결함'과 '하드웨어 결함'이라는 두 안전 가정 붕괴 축을 모두 조망할 수 있다.

출처

• arXiv 초록 페이지: arxiv.org/abs/1801.01207
• 공식 대응 사이트 (meltdownattack.com): meltdownattack.com
• USENIX Security 2018 논문 페이지: usenix.org/conference/usenixsecurity18/presentation/lipp
• NIST CVE-2017-5754: nvd.nist.gov/vuln/detail/CVE-2017-5754