Anthropic이 11월 5일 추론 증명 시스템 FlashProve를 공개했습니다. 모델 가중치를 감춘 채, 돌아온 답이 약속한 그 모델에서 나왔다는 사실을 암호학으로 증명합니다.
Llama 4 Maverick(4,000억 매개변수 MoE)의 4비트 가중치로 H100 한 장에서 초당 약 110토큰의 증명을 만듭니다. 요청 하나(1,024토큰)당 증명 파일은 18.78MB입니다.
서드파티 라우팅 업체가 싼 모델로 바꿔치기하거나, 평가기관이 평가한 모델과 실제 서비스 모델이 다른 문제를 겨냥합니다. 대신 지금 증명되는 범위는 1,024토큰 문맥과 정수 가중치의 탐욕적 디코딩까지입니다.
가중치는 숨기고, 실행은 증명한다
구조는 두 단계입니다. 제공자는 먼저 오프라인 단계에서 가중치를 고정하는 커밋먼트를 공개합니다. 모델당 한 번, 약 39분이 걸리고, 그 커밋먼트는 약 1,600만 건의 요청까지 유효합니다.
온라인 단계에서는 프롬프트와 출력 토큰마다 커밋한 모델을 돌리면 이 토큰이 나온다는 증명을 붙입니다. 약 232GB짜리 4,000억 매개변수 모델의 계산이 19MB 증명으로 줄고, 24코어 CPU에서 수 초에 검증됩니다.
검증자에게 필요한 것은 커밋먼트 약 6.5MB와 요청별 증명뿐입니다. GPU도, 모델 가중치도 필요 없습니다. 증명 하나를 24스레드에서 17초, 단일 스레드에서 21초에 확인합니다.
바탕 기술은 Starknet이나 Mantle 같은 블록체인 L2에 쓰이는 유형의 zkSNARK입니다. 해시 함수 기반이라 양자내성 보안도 함께 얻습니다. 영지식 성질은 가중치와 중간 계산값, 어느 전문가 네트워크가 돌았는지까지 숨기지만 모델 구조는 숨기지 않습니다.
값은 GPU 시간, vLLM의 70~95배
증명자는 H100 1장과 24코어 CPU에서 돕니다. 요청 24건 묶음을 증명하는 데 약 223초, 초당 110토큰입니다. 가중치를 층별로 쪼개 호스트 메모리에서 스트리밍해서 80GB GPU 한 장과 약 290GB 호스트 메모리로 돌아갑니다.
같은 모델을 vLLM으로 돌린 값과 비교하면 GPU당 시간이 약 72배, 실험한 최대 부하 기준으로는 약 94배 더 듭니다. 다만 조건은 같지 않습니다. vLLM 쪽은 FP8 배포판을 H100 8장에 올렸고, 증명은 4비트 가중치를 1장에서 처리했습니다.
이전 공개 시스템과의 차이는 더 큽니다. 같은 Llama 4 Maverick을 증명한 VerInf는 DGX Spark에서 초당 0.02토큰, 증명 크기 93.6GB, 검증에 거의 하루가 걸렸습니다. FlashProve는 같은 모델을 초당 110토큰, 19MB, 수 초 검증으로 옮겼습니다.
Claude가 짠 최적화, Lean이 검증
Anthropic은 Claude가 zkSNARK 최적화와 프로토콜 명세 작성에 기여했다고 밝혔습니다. 최적화 결정은 사람이 평가하기 어려우니, 보안 속성을 Lean으로 정형 증명해 감사할 수 있게 했습니다.
Lean으로 완전성·건전성·영지식성을 명세하고 기계 검사 가능한 증명을 붙였습니다. 일상용 C++ 검증기에는 정형 보장이 없고, 모든 테스트에서 Lean 검증기와 같은 결과를 냈다는 수준입니다.
코드와 Lean 증명, 문서는 Apache 2.0입니다. 모델 가중치는 포함되지 않아, 예제를 끝까지 돌리려면 Meta Llama 4 라이선스로 가중치를 따로 받아야 합니다.
이 증명이 실제로 쓰이는 자리는 중계 서비스입니다. OpenRouter 같은 곳을 거쳐 요청을 보낼 때, 돈을 낸 모델이 실제로 답했는지 확인할 수단이 지금은 없습니다.
독립 평가기관은 출시 전후에 평가한 모델과 서비스 중인 모델이 같은지 증명으로 확인합니다. 규제 쪽에서는 승인된 모델만 서빙했는지, 하드웨어를 추론에 썼는지 요청 단위로 검사할 수 있습니다.
응용 하나가 더 있습니다. 특정 모델이 패치를 분석하는 데 최소 100만 토큰을 썼지만 버그를 찾지 못했다는 실패 증명도 만들 수 있습니다.
다만 추론 증명이 병행 학습까지 막지는 못합니다. 회사도 이 한계를 문서에 적었습니다. 증명되지 않은 것을 증명된 것처럼 읽으면 안 되는 이유입니다.
지금 믿고 쓸 수 있나
문맥이 1,024토큰으로 짧습니다. 문맥이 쌓이는 챗 환경이나 수십만~수백만 토큰을 다루는 최전선 모델에는 아직 못 미칩니다.
증명 대상은 공개 가중치의 정확한 정수 버전과 탐욕적 선택입니다. 부동소수점 구현이나 샘플링으로 만든 답은 어느 지점부터 증명된 계산과 어긋날 수 있습니다.
4,000억 매개변수 가운데 토큰마다 실제로 쓰는 것은 약 170억 개입니다. MoE 구조를 전제로 하고, 밀집 모델의 구조까지 숨기는 기능은 없습니다. 증명 생성 시간 같은 부채널 공격도 이번 범위 밖입니다. 회사도 완성된 연구가 아닌 중간 성과라고 못 박았습니다.
증명은 추론이 끝난 뒤에 붙습니다. 토큰 스트림에 대한 보장이 즉시 오지 않고 지연이 생기며, 실시간 스트리밍 검증보다는 사후 감사에 맞는 설계입니다.
원문 반응, 다시 돌리면 되는 것 아닌가
해커뉴스에서는 초기 구현인 VerInf를 만든 연구자가 4,000억 매개변수 Maverick 선택까지 거의 그대로 가져왔는데 출처 표시가 거의 없다고 지적했습니다.
가장 많이 나온 반론은 재실행입니다. 가중치가 공개돼 있으면 다시 돌려 비교하면 된다는 것입니다. 반대편에서는 검증자에게 GPU가 없고 6.5MB 커밋먼트만 받으면 되니 재실행보다 싸다고 맞섭니다.
증명 사업을 하는 Attestable은 자사가 Gemma 4 31B를 단일 H100에서 초당 53~77토큰으로 증명한다고 밝혔습니다. FlashProve는 정수 모델과 짧은 문맥만 다뤄 평가가 떨어진다는 입장입니다.
중계 서비스가 다른 모델로 돌리는지 잡을 수 있다는 기대와, 제공자를 못 믿으면 이미 늦았다는 회의론도 함께 나왔습니다.
그래서 지금 사야 하나를 따져보면, 증명은 제공자 쪽 비용이고 검증은 CPU에서 끝납니다. 그래서 H100급 장비를 새로 살 이유는 없습니다. 증명자를 직접 돌리려는 쪽만 80GB급 GPU 한 장과 290GB 안팎의 호스트 메모리를 준비해야 합니다.
검증자는 반대로 가볍습니다. 서버용 24코어 CPU에서 20초 안팎, 노트북 CPU에서도 증명 하나를 확인할 수 있는 수준입니다. 중계나 평가를 하는 팀이라면 검증 도구를 미리 붙여 둘 값어치는 지금도 있습니다.
지금 바로 서비스에 붙일 도구는 아닙니다. 그래도 검증 비용을 19MB와 CPU 수 초로 낮춘 것이 이번 공개의 값어치입니다. 모델을 직접 돌리는 쪽이라면 증명자 요구사항이 80GB GPU급이라는 점을 먼저 보셔야 합니다.
NVIDIA NVIDIA RTX PRO 6000 Blackwell 워크스테이션 에디션 D7 96GB 서린
로켓배송으로 바로 받기이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
