🛡️ 최신 보안 논문 분석 - Beyond the Trust Boundary: FIDO2 위협 모델의 재평가 — "패스키는 설계상 안전"이라는 착각 (2026)

논문 정보

연구 배경 — "암호학이 완벽하면 인증도 안전한 걸까?"

FIDO2/WebAuthn은 공개키 암호화와 하드웨어 인증기를 결합한 피싱 저항(phishing-resistant) 인증의 사실상 표준이다. 패스키(passkey)라는 이름으로 일상에 빠르게 확산되면서, 많은 보안팀은 "암호학적 구현만 올바르면 FIDO2의 안전성은 설계상 보장된다"고 전제한다. 저자들은 이 전제 자체를 겨냥한다. FIDO2는 실제로는 암호 레이어 너머의 '신뢰할 수 있는 환경'(브라우저, OS, 하드웨어, 프로토콜 스택, 메타데이터 인프라)에 광범위하게 의존하는데, 현실적인 배포 조건에서 이 환경에 대한 가정들이 여럿 붕괴할 수 있다는 것이다. 논문은 암호화 계층을 넘어 FIDO2 스택 전반을 가로지르는 8가지 공격 벡터를 분석하고, 공격 체인이 단일 계층의 보안 보증을 어떻게 무력화하는지 보여준다.

핵심 내용 — FIDO2 스택을 가로지르는 8가지 공격 벡터

• 악성 브라우저 확장 프로그램: WebAuthn API 호출을 가로채거나 조작할 수 있는 확장 프로그램은 자격 증명 흐름 자체를 탈취할 수 있다 — 사용자는 여전히 '정상적인' 패스키 인증을 하고 있다고 믿는다.
• 플랫폼 핸들러 악성코드: OS의 패스키/인증기 핸들러 프로세스를 감염시키면, 하드웨어 인증기는 안전해도 그 위에서 자격 증명을 다루는 플랫폼 계층이 통째로 적대적이 된다.
• 수동 스니핑(passive sniffing)과 가상 디바이스 드라이버: 인증기-플랫폼 사이 트래픽 도청, 그리고 가상 CTAP 디바이스를 흉내 내는 드라이버로 자격 증명을 중간에서 가로채는 경로다.
• CTAP2 특화 악성코드: CTAP2(인증기 통신 프로토콜) 레벨에서 동작하는 악성코드는 PIN/제스처 확인이나 자격 증명 선택 같은 프로토콜 단계를 직접 공격한다.
• USB/하드웨어 임플란트 및 악성 USB 허브·도크·익스텐더: 인증기-호스트 사이 물리적 링크에 개입하는 하드웨어 공격으로, 펌웨어가 안전한 인증기라도 그 '배선'이 적대적이면 통신 내용이 노출·변조될 수 있다.
• NFC 릴레이 공격: NFC 기반 패스키의 무선 구간을 릴레이해, 물리적으로 떨어진 공격자가 사용자 인증기를 '원격 대여'하는 고전적 중계 공격이다.
• AAGUID·타이밍 정보를 이용한 사용자 프로파일링: 인증기 식별자(AAGUID)와 인증 타이밍 메타데이터는 익명으로 보이지만, 결합하면 사용자 추적과 표적 공격의 재료가 된다.
• MDS3 메타데이터 서비스 공격: 인증기 메타데이터의 신뢰 루트인 FIDO Metadata Service(MDS3)를 겨냥해 디바이스 증명(attestation)을 훼손하면, '신뢰할 수 있는 인증기' 판정 자체를 속일 수 있다.

"The primary weakness in a FIDO2 deployment is often not the cryptographic layer, but the surrounding trusted environment." — Mitra et al. (arXiv:2609.03789)

• 가정 붕괴의 구조: 브라우저·OS·하드웨어 중 어느 하나라도 침해되면, 기저 암호 프리미티브가 온전하더라도 FIDO2의 보안 보증은 무너진다. 공격자 관점에선 값비싼 암호 분석이 필요 없다 — 더 약한 주변 계층을 공략하면 된다.
• 다계층 연쇄 공격(attack chains): 단일 벡터로는 부족해도, 브라우저 확장 → OS 핸들러 → USB 링크를 잇는 체인은 계층별 완화를 개별적으로 우회하며 의도된 보안 보증 전체를 무력화할 수 있음을 실증한다.
• 공격자 특성 분류: 각 공격 벡터를 요구 권한·기술 숙련도·자원 규모 기준으로 특성화해, 어떤 위협이 어떤 배포 환경(개인 사용자 vs 기업 관리형)에서 현실적인지 판단할 수 있는 틀을 제공한다.

영향과 의의

• "설계상 안전" 신화의 해체: 패스키 마케팅의 핵심 메시지인 '암호학적으로 피싱 불가'는 암호 레이어에만 국한된 진실이다. 이 논문은 위협 모델의 경계를 신뢰 환경(trust boundary) 전체로 확장해야 함을 보여준다 — FIDO2 도입을 검토하는 조직의 위협 모델 문서에 직접 반영할 만한 결론이다.
• 실무 시사점 — 층위적 방어의 복귀: 패스키를 도입했다고 해서 엔드포인트 보호(EDR), 브라우저 확장 관리, 하드웨어 공급망 검증을 소홀히 해서는 안 된다. 인증 혁신은 주변 환경 보안의 '대체재'가 아니라 '상위 레이어'임을 계량적으로 보여준다.
• 표준·인프라 보호의 필요성: MDS3 공격 벡터는 인증기 메타데이터 인프라 자체가 하나의 중요한 공격 표면임을 환기시킨다. FIDO 얼라이언스 및 브라우저 벤더의 메타데이터 유통·검증 파이프라인 보안 강화 논의에 근거를 제공한다.
• 연구 공백의 재조명: CTAP2 특화 악성코드, NFC 릴레이, 악성 USB 허브 등은 학계에서 상대적으로 덜 다뤄진 영역이다. '암호는 맞지만 환경이 틀린' 공격 체인을 체계적으로 분류한 본 연구는 향후 FIDO2 생태계 보안 연구의 출발점이 될 수 있다.
• 최신 흐름과의 연결: 패스키 도입이 확산될수록(최근 뉴스에서도 패스키 피싱 툴킷·iAuthFlow V2 등 공격 도구의 등장이 확인됨) '인증기의 안전 ≠ 인증의 안전'이라는 이 논문의 경고는 더욱 현실감을 얻는다. 피싱 저항 인증도 결국 전체 스택의 보안 위에서만 성립한다는 점을 상기시킨다.

출처

• arXiv 초록 페이지: arxiv.org/abs/2609.03789
• FIDO Alliance (FIDO2/WebAuthn 개요): fidoalliance.org/fido2