Anthropic은 2026년 7월 28일 내부 인공 지능 모델인 Claude Mythos Preview가 인간 전문가가 2년 넘게 연구했지만 성공하지 못한 차세대 포스트 양자 암호화 후보를 포함하여 인터넷 보안에 도움이 되는 암호화 알고리즘에서 실제 수학적 약점을 발견했다고 발표했습니다.

연구 논문과 함께 발표되고 "클로드와 함께 암호화 약점 발견"이라는 제목의 Anthropic 블로그 게시물에 자세히 설명된 이 발견은 고급 수학에 기여하는 대규모 언어 모델에 대한 현재까지 가장 눈에 띄는 시연 중 하나입니다. 결과를 처음 보고한 The New York Times에 따르면, 이 연구는 AI 시스템이 디지털 보안 뒤에 있는 핵심 가정에 어떻게 도전하기 시작할 수 있는지를 보여줍니다. 최신 AI 개발과 개척 연구에 대한 심층적인 보도를 보려면 독자들이 AI Buzz Wire를 팔로우하세요.

두 가지 혁신: AES와 HAWK

신화는 두 가지 뚜렷한 결과를 가져왔습니다. 첫 번째는 현재 미국 국립표준기술연구소(NIST)가 운영하는 표준화 경쟁의 3차 라운드에 있는 대표적인 체계인 HAWK에 대한 향상된 공격이었습니다. HAWK는 미래의 양자 컴퓨터에 대해서도 보안을 유지하도록 설계된 포스트 양자 알고리즘 클래스에 속합니다. 인간 암호학자들은 2년 넘게 HAWK를 검토했지만 Mythos Preview는 API 비용이 약 $100,000인 약 60시간 만에 개선된 공격을 발견했습니다.

두 번째 결과는 세계에서 가장 널리 사용되는 대칭 암호화 표준인 AES-128의 축소 버전에 대한 새로운 공격이었습니다. 이 모델은 공격자가 수행해야 하는 추측의 일부를 제거하는 Anthropic이 "Mobius Bridge"라고 부르는 새로운 지문 채취 방법을 개발했습니다. Anthropic은 이 기술이 이전에 가장 잘 알려진 공격보다 200~800배 향상되었다고 말했습니다. AES 공격은 체계의 10개 라운드 중 7개를 사용하는 수정된 버전에만 적용되며 HAWK 체계는 여전히 NIST 후보이므로 두 가지 발견 모두 현재 사용 중인 시스템에 영향을 미치지 않습니다.

주로 혼자 작동하는 다중 에이전트 시스템

결과가 주목할만한 점은 인간의 개입이 거의 필요하지 않다는 것입니다. Anthropic과 The Decoder의 보고에 따르면 Mythos는 다중 에이전트 시스템 내에서 반자율적으로 운영되어 자체 가설을 생성하고 테스트했습니다. HAWK 공격의 경우 한 에이전트는 처음에 이 접근 방식을 실행 불가능하다고 일축하려고 시도했지만 두 번째 에이전트는 HAWK 보안을 뒷받침하는 수학적 격자에서 이전에 감지되지 않은 대칭성을 완전히 활용하는 방법을 찾았습니다.

관련된 인간 연구원은 이론적인 컴퓨터 과학에 대한 배경 지식을 가지고 있었지만 격자 기반 암호화의 전문가는 아니라고 Anthropic은 말했습니다. 그의 역할은 주로 프로젝트 관리로 제한되었습니다. 즉, 간단한 프롬프트를 제공하고 노력을 순조롭게 진행하며 나중에 결과를 확인하는 데 도움을 주었습니다. AES 작업에 대해 모델은 처음에는 "AES-128 r5/r6은 정말 어렵습니다"라고 적고 추가 개선이 불가능하다고 주장하면서 거부했습니다. 연구원이 "진정으로 새로운 아이디어"를 찾도록 권장한 후에야 보다 창의적인 접근 방식을 추구하기 시작했습니다.

대략 3일 동안 이 모델은 수억 개의 토큰을 생성했고, 실질적인 프롬프트는 3개만 더 받았고, 총 약 10억 개의 토큰을 소비했습니다. 실행 비용은 API 수수료로 약 $100,000입니다. 암호화 전문가가 아닌 인간 연구자들은 결론을 확인하는 데 수백 시간을 독립적으로 소비했습니다.

공개 및 새로운 벤치마크

Anthropic은 조사 결과를 미국 정부 및 업계 파트너와 사전에 공유했으며 계획 작성자와 직접 HAWK 약점 공개를 조정했다고 말했습니다. 회사는 활성 배포에서 암호화를 위반하는 결과가 없기 때문에 공개는 긴급 대응이 아닌 예방적 조치였다고 강조했습니다. Mythos Preview는 여전히 대중에게 제공되지 않습니다.

다른 사람들이 언어 모델의 암호 분석 능력을 평가할 수 있도록 돕기 위해 Anthropic은 ETH Zurich, Tel Aviv University 및 University of Haifa의 연구원과 협력하여 CryptanalyticBench라는 벤치마크를 구축했습니다. 벤치마크는 외부 팀이 AI 모델이 암호화 구조의 약점을 얼마나 잘 찾아 분석할 수 있는지 체계적으로 테스트할 수 있도록 설계되었습니다.

중요한 이유

이번 발표는 특히 국가 안보에 영향을 미치는 업무에서 첨단 AI를 얼마나 빨리 개발해야 하는지, 자율적 권한 모델을 얼마나 부여해야 하는지에 대한 치열한 논쟁이 진행되는 가운데 나온 것입니다. 암호화는 은행 업무부터 메시징, 정부 커뮤니케이션에 이르기까지 사람들이 온라인에서 수행하는 거의 모든 활동을 뒷받침합니다. Mythos는 실제 암호화를 깨뜨리지는 못했지만, 전통적으로 느리고 신중한 인간 분석의 속도로 진행되어 온 분야에서 기계와 전문 인간 사이의 격차를 좁혔습니다.

결과는 또한 현재 수십 년 동안 글로벌 통신을 보호할 포스트 양자 알고리즘을 선택하고 있는 NIST와 같은 표준화 기관에 실질적인 질문을 제기합니다. AI 모델이 수년 동안 전문가의 검토를 피할 수 있었던 약점을 몇 달 안에 드러낼 수 있다면 검토 프로세스 자체에 자동화된 암호 분석을 일상적인 단계로 통합해야 할 수도 있습니다.

업계 관찰자들은 방법론과 벤치마크를 게시하면서 Mythos Preview를 비공개로 유지하기로 한 Anthropic의 결정은 AI 안전 연구에서 점점 더 일반적인 균형을 반영한다는 점에 주목했습니다. 즉, 오용될 수 있는 도구를 자유롭게 배포하지 않고 기능을 입증하는 것입니다. 모델의 자율적 추론 능력이 더욱 향상됨에 따라 다른 민감한 영역에서도 유사한 발견이 뒤따를 가능성이 높습니다.

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →