정하준 | 기자 작성일 2026년 07월 16일
영국의 사이버 보안 기업 포스트퀀텀(Post-Quantum)이 개발한 양자 내성 암호 알고리즘 '클래식 맥엘리스(Classic McEliece)'가 국제표준화기구(ISO)의 비대칭 암호 표준으로 정식 채택됐습니다. 이번 표준화로 전 세계 177개 ISO 회원국 기관은 국제적으로 검증된 규격을 기반으로 양자 컴퓨터 공격에 대비한 차세대 암호 체계로 전환할 수 있는 발판을 마련하게 됐습니다.
다가오는 'Q-데이', 무너질 수 있는 오늘의 암호
현재 인터넷과 금융, 국방 통신을 떠받치는 대부분의 암호 체계는 고성능 양자 컴퓨터가 등장하면 순식간에 무력화될 위험을 안고 있습니다. 특히 쇼어 알고리즘(Shor's algorithm)을 실행하는 양자 컴퓨터는 오늘날 널리 쓰이는 공개키 암호를 해독할 수 있는 것으로 이미 이론적으로 입증돼 있습니다. 보안 업계는 이처럼 기존 암호가 한꺼번에 뚫리는 재앙적 시점을 'Q-데이(Q-Day)'라고 부릅니다.
문제는 Q-데이가 아직 오지 않았음에도 위협은 현재진행형이라는 점입니다. 적대적 세력들은 지금 당장 해독하지 못하더라도 훗날 양자 컴퓨터가 완성되면 풀어내겠다는 목적으로 암호화된 데이터를 미리 대량으로 빼돌리고 있습니다. 이른바 '선 수집, 후 해독(Harvest Now, Decrypt Later, HNDL)' 공격입니다. 보존 기간이 긴 의료 기록이나 국가 기밀, 지식재산 등은 지금 탈취당하면 몇 년 뒤 고스란히 해독될 수 있어 위험이 특히 큽니다.
최근 구글이 인공지능(AI)을 활용해 쇼어 알고리즘을 최적화하면서 상황은 더 급박해졌습니다. 기존 암호를 해독하는 데 필요한 물리적 큐비트 수가 줄어들면서 Q-데이 도래 시점이 앞당겨졌기 때문입니다. 이에 일부 저명한 전문가들은 이르면 향후 3년 안에 현재의 암호 체계가 무력화될 수 있다는 경고까지 내놓고 있습니다.
ISO/IEC 18033-2에 편입된 클래식 맥엘리스
이러한 위기감 속에서 국제표준화기구는 비대칭 암호 표준인 ISO/IEC 18033-2의 일환으로 클래식 맥엘리스 알고리즘을 추가했습니다. 이 표준은 2006년 처음 제정된 비대칭 암호 규격을 개정·보강하는 형태로, ISO 회원국에서 선발된 독립적인 기술 전문가들의 투표를 거쳐 확정됐습니다.
클래식 맥엘리스는 1978년 로버트 맥엘리스(Robert McEliece) 교수가 처음 고안한 암호 시스템에 뿌리를 두고 있습니다. RSA나 디피-헬만(Diffie-Hellman) 같은 기존 방식이 소인수분해나 이산대수 문제의 어려움에 기대는 것과 달리, 클래식 맥엘리스는 오류 정정 코드(이진 고파 코드)를 기반으로 설계됐습니다. 암호화 과정에서 의도적으로 무작위 오류를 주입하고, 지정된 수신자만이 오류 정정 기법을 통해 원문을 복원할 수 있도록 하는 독특한 구조입니다.
반세기 동안 뚫리지 않은 보안성
이 알고리즘의 가장 큰 강점은 검증된 내구성입니다. 암호학계는 1970년대 이후 반세기 가까이 맥엘리스 시스템을 공격해 왔지만 단 한 번도 뚫어내지 못했습니다. 이 때문에 독일 연방정보보안청(BSI)과 네덜란드 국가안보국 등 주요국 정부 기관은 클래식 맥엘리스를 선제적으로 권고해 왔으며, 암호학계는 현재 이용 가능한 가장 안전한 양자 내성 암호(PQC) 알고리즘 중 하나로 평가하고 있습니다.
기술적으로 클래식 맥엘리스는 공개 키 크기가 상대적으로 크다는 특징이 있습니다. 공개 키는 대략 255KB에서 1.3MB에 이르지만, 반대로 암호문(ciphertext)은 최대 208바이트 수준으로 알려진 모든 PQC 키 캡슐화 메커니즘(KEM) 가운데 가장 작고 효율적입니다. 또한 공개 키를 재사용할 수 있어 임시 키 합의가 빈번하게 필요한 애플리케이션에 특히 적합합니다. 오픈소스로 제공되는 만큼 데비안(Debian), 우분투(Ubuntu), 바운시 캐슬(Bouncy Castle) 라이브러리 등 여러 프로젝트에도 구현이 반영되고 있습니다.
폭넓은 활용 분야
클래식 맥엘리스는 다양한 영역에서 양자 내성 보안을 제공할 수 있습니다. 포스트퀀텀이 제시한 주요 활용 사례는 다음과 같습니다.
- 데이터 센터 등 사용자와 인프라 간 통신을 보호하기 위한 양자 내성 가상 사설망(VPN)의 백본 구성
- 의료 데이터, 지식재산, 정부 기밀 등 보존 기간이 긴 네트워크 전송 데이터(data-in-transit) 보호
- 모바일 메시징 애플리케이션 보안 강화를 통한 감청 방지
- 드론 등 커넥티드 기기 보안 강화를 통한 감청 방지
- 비밀번호나 생체 인식 식별자 등 자격 증명이 감청되거나 침해되지 않도록 방지하는 신원 인증 시스템 보안
전장에 투입된 세계 최초 양자 내성 드론
포스트퀀텀은 최근 체코 방산업체 STV 그룹(STV Group)과의 파트너십을 통해 클래식 맥엘리스를 항공 분야에 처음으로 적용하는 시연을 선보였습니다. 이 프로그램에서는 거부·저하·단절·제한(DDIL)이라는 가장 혹독한 통신 환경에서도 작전을 수행할 수 있는 세계 최초의 전장용 양자 내성 드론이 탄생했습니다. 해당 드론은 STV의 무기 시설에서 성공적으로 테스트를 마쳤으며, 키(key) 크기가 커서 실제 도입이 어려울 것이라는 세간의 통념을 정면으로 뒤집었습니다.
"계획 단계를 넘어 실행 단계로"
리키 하산(Rikky Hasan) 포스트퀀텀 최고경영자(CEO)는 이번 표준화의 의미를 강조했습니다. 그는 "이제 모든 주요 조직은 양자 내성 암호화 도입 계획 단계를 넘어 적극적인 실행 단계로 나아가야 한다"며 "이번 ISO 표준화는 전 세계 정부와 기업이 클래식 맥엘리스를 더 쉽고 일관되게 도입할 수 있음을 의미한다"고 밝혔습니다.
이어 하산 CEO는 "암호학계는 1970년대 이후 맥엘리스 시스템을 공격해 왔으나 한 번도 뚫지 못했으며, 클래식 맥엘리스는 현재 가용한 모든 양자 내성 알고리즘 중 가장 높은 보안성을 보장한다"면서 "북대서양조약기구(NATO) 및 STV와의 협업 성과는 이 알고리즘이 광범위한 사용 사례에 실질적으로 적용 가능함을 입증한다"고 덧붙였습니다. 또한 그는 이번 표준화가 "클래식 맥엘리스의 성능과, 양자 컴퓨터 공격으로부터 통신을 안전하게 보호하는 적합성에 대한 기술 커뮤니티의 굳건한 신뢰를 보여준다"고 평가했습니다.
기업 소개 — 포스트퀀텀은
2009년에 설립된 포스트퀀텀(Post-Quantum)은 양자 내성 암호(PQC) 개발과 보급에 주력해 온 선도 기업입니다. 고급 사이버 보안 및 암호화 혁신 분야의 전문성을 바탕으로 다양한 은행과 국방 기관, 정부의 보안 영역에서 협력하고 있습니다.
특히 이 회사는 코드 기반 양자 내성 알고리즘인 NTS-KEM을 최초로 개발했는데, 이 알고리즘은 다니엘 번스타인(Daniel Bernstein) 교수 연구팀의 제출안과 병합되면서 오늘날 '클래식 맥엘리스'라는 이름으로 불리게 됐습니다. 이 병합안은 미국 국립표준기술연구소(NIST)의 표준화 경쟁에도 제출된 바 있습니다.
포스트퀀텀의 양자 내성 VPN은 NATO의 테스트를 성공적으로 통과했으며, 핵심 기술은 방산업체 STV에 라이선스 형태로 제공돼 드론과 조종자 간 통신을 보호하는 데 쓰이고 있습니다. 이 회사는 하이브리드 양자 내성 VPN에 관한 국제인터넷표준화기구(IETF) 표준의 원저자이기도 합니다. IETF가 인터넷의 작동 방식을 정의하는 기구인 만큼, 앞으로 인터넷을 구성하는 점점 더 많은 요소가 양자 내성을 갖추게 될 것으로 전망됩니다. 포스트퀀텀은 미국 국립사이버보안센터(NCCoE)가 설립한 양자 암호 전환 컨소시엄에도 핵심 구성원으로 참여하며, 양자 시대 이후의 인터넷 보안 질서를 형성하는 데 기여하고 있습니다.