친구와 직접 대화할 때, 그들을 보고, 듣고, 악수할 수 있습니다. AI 모델과 대화할 때 그러한 확신은 거의 없습니다. Anthropic의 새로운 연구는 바로 그 격차를 겨냥합니다. 회사는 계약이 아닌 수학적으로 응답이 실제로 주장하는 모델에서 나온 것임을 증명할 수 있는 FlashProve라는 시스템을 포함하여 암호화 추론 증명에 대한 진전을 발표했습니다.

FlashProve가 해결하는 문제는 조용히 구조적입니다. 오늘날 모델을 쿼리하는 사용자는 개발자가 응답한다고 주장하는 특정 모델에서 응답이 왔는지 확인할 수 없습니다. 이는 비용상의 이유로 라우팅 서비스로 비밀리에 대체되거나 심지어 토큰 스트림을 변조한 공격자가 아닌 경우도 있습니다. 답변이 훌륭해 보이더라도 출력만으로 판단하는 것은 신뢰할 수 없습니다. 동일한 채팅 창이 로드 시 더 저렴한 모델로 자동으로 라우팅될 수 있는 업계에서는 이는 가정적인 문제가 아니며 기본 신뢰 모델입니다. 이와 같은 작업에 대한 자세한 내용은 AI 연구 뉴스를 참조하세요.

증명 가능한 추론이 어려운 이유

증명 가능한 추론의 목표는 계산 리소스가 제한되어 있고 모델의 개인 가중치에 액세스할 수 없는 사용자가 주어진 응답이 실제로 해당 모델에 의해 생성되었는지 확인할 수 있도록 하는 것입니다. 모델을 직접 다시 실행하는 명백한 접근 방식은 시작이 아닙니다. 프론티어 모델의 가중치는 비공개로 유지되며 이에 대한 응답을 확인하려면 일반 사용자나 자금이 풍부한 평가자가 감당할 수 있는 것보다 훨씬 더 많은 계산이 필요합니다.

Anthropic의 접근 방식은 작업에 고유하게 적합하도록 강력한 은폐 및 효율성 속성을 갖춘 영지식 증명 제품군인 zkSNARK에 의존합니다. 제공자는 모델에 한 번 커밋한 다음 각 응답에 대해 커밋된 모델에 의해 답변이 계산되었다는 간략한 증명을 생성합니다. 반면 증명 자체는 모델의 가중치를 숨깁니다. 아키텍처를 숨기는 것은 시스템의 목표가 아닙니다. 가중치를 숨기는 것은.

숫자

게시물의 효율성 수치는 이야기의 기술적 핵심입니다. 왜냐하면 대형 모델에 대한 증거 생성은 역사적으로 문제가 되기에는 너무 느린 속도였기 때문입니다. 4,000억 매개변수의 전문가 혼합 모델인 Llama 4 Maverick의 경우 단일 NVIDIA H100 GPU는 4비트 양자화 가중치와 사전 채우기의 정수 산술을 사용하여 초당 약 110개의 토큰으로 증명을 생성하며, 증명 크기는 1,024개 토큰 요청당 약 19MB입니다.

이러한 속도에는 비용이 따릅니다. 증명 생성에는 널리 사용되는 오픈 소스 추론 라이브러리인 vLLM에서 모델 자체를 실행하는 것보다 대략 70~95배의 GPU 시간이 소요됩니다. 즉, 비용이 많이 들지만 처음으로 입증된 것과 동일한 규모이며, Anthropic에 따르면 수십 배 뒤처지는 이전 오픈 소스 시스템보다 훨씬 빠릅니다.

Claude가 이를 구축하고 Lean이 주장을 감사합니다.

첫 번째 이야기 안에 두 번째 이야기가 접혀 있습니다. 게시물에 따르면 Claude는 추론을 위해 zkSNARK를 개선하여 암호화 증명 시스템에 대한 잘 확립된 설계 원칙에 의존하면서 암호화 및 보안 문헌의 최첨단 도구를 적용하는 새로운 방법을 찾았습니다.

Anthropic은 해당 작업 흐름에 수반되는 위험에 대해 솔직합니다. Claude는 최적화에 능숙하지만 특히 크고 복잡한 시스템에서 평가하기 어려운 결정을 내리는 경우가 많습니다. 대책은 형식적인 검증이다. 이 회사는 주장된 보안 보장에 대해 공식 검증 언어인 Lean으로 최고 수준의 감사 가능한 진술을 제공합니다. 즉, AI의 영리한 최적화와 이를 신뢰해야 하는 사용자 사이에 있는 기계 검사 수학입니다.

전체 스택은 Apache 2.0 라이선스에 따라 출시됩니다. 블로그 게시물, 시스템 세부 정보를 설명하는 기술 보고서, 프로토콜 설명, 증명자와 두 개의 검증기(C++의 빠른 검증기 및 Lean의 검증 가능한 올바른 검증기)를 포함한 실행 코드, 그리고 Lean 증명 자체와 감사를 돕는 대화형 시각화 장치가 포함됩니다.

규정 준수부터 AI 속도 조정 조약까지

인류학 스케치는 일상적인 것부터 지정학적인 것까지 다양한 사례를 사용합니다. 출시 전후에 AI 모델을 테스트하는 독립 평가자는 자신이 평가하는 모델이 제공되는 모델인지 알아야 합니다. 제3자 라우팅 서비스를 통해 모델에 액세스하는 클라이언트는 토큰이 자신이 지불한 모델에서 나온 것인지 확인하기를 원합니다. 그리고 보안 시나리오에서 특정 모델을 가장하면서 토큰 스트림을 수정하는 사이버 공격자는 출력 검사만으로는 결코 달성할 수 없는 방식으로 탐지 가능해집니다.

게시물에 언급된 가장 야심찬 애플리케이션은 AI 속도 요구 사항(프론티어 기능의 발전 속도를 제어하려는 자발적 및 정부 협약의 새로운 클래스)을 준수하는지 확인하는 것입니다. 오늘날 그러한 약속은 신뢰와 서류 작업에 달려 있습니다. 추론에 대한 암호화 증명은 검사에 더 가까운 것을 제공합니다. 즉, 어떤 모델이 특정 워크로드를 제공하는지 주장하는 것이 아니라 보여주는 방법입니다.

연구자들은 이것이 완료된 연구 의제가 아닌 중간 과정임을 명시하고 있으며, 다른 사람들이 작업을 맡아 개선한다는 목표를 가지고 출판하고 있습니다. 이러한 프레이밍은 그 자체로 하나의 신호입니다. 입증 가능한 추론은 암호화 세미나 사고 실험에서 이제 개척 연구실이 공개적으로 배포할 만큼 저렴하게 만들기 위해 경쟁하고 있는 엔지니어링 문제로 이동했습니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →