Anthropic, zkSNARK 기반 LLM 추론 검증 도구 FlashProve 공개

• Anthropic이 zkSNARK를 활용해 특정 LLM이 응답을 생성했음을 암호학적으로 검증하는 오픈소스 프로토타입 FlashProve를 공개함. 모델 대체 및 변조 위험을 해결하는 데 초점을 맞춤.
• Llama 4 Maverick(400B 파라미터 MoE, 4-bit 양자화) 환경에서 프로버는 단일 H100 GPU와 24개 CPU 코어를 사용해 110 tokens/second 성능을 달성함. 1,024-token 요청당 증명 크기는 18.78 MB임.
• 검증 과정에는 GPU가 필요 없으며, 24개 CPU 스레드 기준 17초, 단일 스레드 기준 21초가 소요됨. 커밋먼트 파일 크기는 6.5 MB임.
• Lean을 통해 완결성, 정합성, 제로-노우리지 속성을 포함한 형식적 보안 보장을 제공함. 단, 모델 아키텍처 은폐나 동시 학습 탐지는 지원하지 않음.

Performance and Overhead

• 동일한 배치 크기에 대해 표준 vLLM 추론 대비 GPU 시간의 70~95배 증명 오버헤드가 발생함.
• 오프라인 커밋먼트 생성에는 약 39분이 소요되며, 최대 1,600만 건의 요청까지 유효함.
• MoE 구조를 활용하여 전체 400B 모델이 아닌 활성 전문가(약 17B 파라미터)에 따라 프로버 작업량이 확장되도록 효율성을 최적화함.

Technical Implementation

• 실시간 지연 시간보다 보안을 우선시하여 인라인 방식 대신 사후 증명(post-hoc proving) 방식을 채택함.
• 포스트-양자 보안을 위해 해시 함수를 사용해 인터랙티브 오라클 증명(IOP)을 암호학적 증명으로 컴파일함.
• 정수 가중치와 그리디 디코딩만 지원하며, 부동소수점 구현 및 샘플링 디코딩은 대상이 아님.

Limitations and Scope

• 컨텍스트 길이가 1,024 token으로 제한되어 프런티어 모델의 윈도우보다 현저히 짧음.
• 타이밍 분석을 통한 사이드채널 공격은 이번 릴리스 범위에서 제외됨.
• 모델 아키텍처가 은폐되지 않으며, 하드웨어가 동시에 학습에 사용되고 있지 않음을 증명할 수 없음.