Anthropic의 FlashProve, 모델 정체성을 검증 가능한 계산으로 전환하다
뉴스 요약
Anthropic은 2026년 11월 2일, 특정 모델이 주어진 AI 응답을 생성했음을 증명하기 위한 오픈소스 연구 프로토타입 FlashProve를 공개했다. 이 프로젝트는 날로 커지는 검증 문제를 겨냥한다. 고객과 감사자는 대체로 텍스트만으로는 제공자가 밝힌 모델을 실제로 서비스했는지 판단할 수 없다. Anthropic의 벤치마크는 암호학적 검증이 이제 초대형 모델에도 적용 가능함을 시사하지만, 상당한 증명 오버헤드와 프로토타입의 한계 때문에 실제 배포는 여전히 해결 과제로 남아 있다.
FlashProve가 증명하도록 설계된 것
이 시스템은 영지식 간결 비대화형 지식 논증, 즉 zkSNARK를 사용한다. 초기 오프라인 단계에서 제공자는 특정 모델 가중치 집합에 대한 간결한 커밋먼트, 즉 암호학적 지문을 공개하면서 해당 가중치 자체는 비공개로 유지한다. 이후 추론 요청이 들어오면 커밋된 모델이 주어진 프롬프트에 대해 제공된 출력 토큰을 생성했음을 주장하는 증명을 만들어 낼 수 있다. 검증자는 가중치를 소유하거나 모델을 다시 실행하지 않고도 이 주장을 확인할 수 있다.
이는 답변이 정확하거나 유용한지 판단하는 수단이라기보다 계산에 대한 서명된 영수증에 가깝다. 유효한 증명은 응답을 커밋된 가중치와 특정 계산에 묶어 준다. 다만 답변이 사실인지, 모델이 안전하게 작동했는지, 제공자의 모델 선택이 적절했는지는 확립해 주지 않는다. 이 접근 방식은 소프트웨어 기반이며 신뢰 하드웨어에 의존하지 않는다.
벤치마크와 엔지니어링 트레이드오프
Anthropic은 공개된 4비트 가중치를 사용해 파라미터 4,000억 개 규모의 전문가 혼합(mixture-of-experts) 모델인 Llama 4 Maverick으로 FlashProve를 테스트했다. NVIDIA H100 GPU 1장과 24코어 CPU를 갖춘 서버에서 증명자는 24개 요청 배치를 초당 약 110 토큰 속도로 처리했으며, 각 증명의 크기는 약 18.78 MB였다. 검증은 CPU에서 수행되어 24스레드에서 17초, 단일 스레드에서 21초가 걸렸다. Anthropic은 동일한 작업량을 처리하는 vLLM과 비교해 GPU당 증명에 약 72배 더 오랜 시간이 걸렸고 가장 높은 테스트 부하에서는 약 94배에 이르렀다고 보고했다. 이는 회사가 자체 보고한 프로토타입 측정치이지 제3자 감사나 배포된 서비스 벤치마크가 아니다.
이 시스템은 생성 과정 중에 증명을 수행하는 방식이 아니라 응답이 완성된 후에 요청을 증명한다. 덕분에 증명 패스가 더 단순해지지만 지연과 연산량이 늘어난다. 제공자는 인증서를 만들기 위해 완성된 응답을 다시 계산하거나 처리해야 한다. 현재 데모는 최대 1,024 토큰 길이의 컨텍스트를 다루며 그리디 디코딩을 사용하는 양자화 정수 모델을 활용한다. 샘플링 방식이나 부동소수점 출력이 증명 대상인 정확한 계산과 어긋나는 경우에는 그 출력을 자동으로 인증하지 않는다.
모델 출처가 중요한 이유
Anthropic은 몇 가지 가능한 활용처를 제시한다. 고객은 제3자 라우터가 자신이 선택한 모델을 서비스했는지 확인할 수 있고, 평가자는 모델 테스트가 의도한 버전을 사용했는지 검증할 수 있으며, 조직은 특정 모델이 코드 검토나 그 밖의 중요한 작업을 수행했다는 주장을 뒷받침할 수 있다. 같은 메커니즘은 제공자가 어떤 모델을 운영하는지에 관한 약속을 감시하는 데도 활용될 수 있다. 또한 서비스 비용, 평가 관련 주장, 침해된 추론 서비스 등 어떤 동기에서든 모델 바꿔치기를 더 쉽게 탐지할 수 있게 만들 수 있다.
이는 제안된 활용법일 뿐 현재 고객에게 제공되는 보증은 아니다. 증명이 의미를 갖는 것은 모델 커밋먼트가 공개되어 기준점으로 신뢰받고, 증명자와 검증자, 주변 서비스가 올바르게 통합되어 있을 때뿐이다. 지문은 가중치 집합을 특정해 주지만 그 자체가 해당 가중치에 대한 공개적 승인이나 안전성 평가는 아니다.
공개물에 포함된 것과 남은 과제
Anthropic의 11월 2일자 연구 게시물에는 기술 보고서, 프로토콜 사양, 실행 가능한 증명자, C++ 검증자, Lean 검증자, 최상위 보안 속성에 대한 기계 검증 가능한 Lean 명제가 포함되어 있다. 회사 측은 코드와 증명, 문서가 Apache 2.0 라이선스로 공개되었다고 밝혔다. GitHub 저장소는 FlashProve를 연구 프로토타입으로 명시하며 유지 관리되지 않는다고 안내한다. Anthropic은 이 성과를 중간 단계의 진전으로 규정하며 외부 연구자의 검토와 개선을 권했고, 이 시스템을 Anthropic이나 다른 연구소에 배포할 계획은 없다고 밝혔다.
연구 게시물은 중요한 한계도 함께 제시한다. 증명은 모델 가중치를 숨기지만 아키텍처는 숨기지 않는다. 형식적 보증은 명시된 수학적 명제에 적용되며, Anthropic은 감사자가 그 명제가 의도한 주장과 일치하는지, 실행 가능한 코드가 형식 프로토콜을 구현하는지 여전히 확인해야 한다고 지적한다. 빠른 C++ 검증자는 Lean 검증자와 동일한 형식적 보증을 제공하지 않는다. 그 밖의 미해결 문제로는 타이밍을 통한 정보 유출 가능성, 더 긴 컨텍스트로의 확장, 테스트에 사용된 전문가 혼합 모델과 정확한 디코딩 설정을 넘어선 지원 확대 등이 있다.
교차 확인과 의의
TechCrunch의 2026년 11월 3일 보도는 FlashProve를 어떤 모델이 출력을 생성했는지 증명하는 시스템으로 소개하며, 제공자가 사용자 모르게 모델을 바꿔 치할 수 있는 위험을 강조했다. Anthropic의 본 연구 게시물과 공개된 기술 자료는 이 핵심 설명을 뒷받침하면서도 결정적인 단서를 덧붙인다. 즉 이는 측정 가능하지만 상당한 오버헤드를 동반하는 개방형 연구 프로토타입이지 운영 단계의 정체성 기능이 아니라는 것이다. 저장소와 보고서는 독립적인 기술 검토의 출발점을 제공하지만, 공개된 성능 주장과 보안 가정은 현실적인 배포 환경에서 외부 평가를 거쳐야 한다.
더 넓은 관점에서 얻을 수 있는 교훈은 AI 출처 검증을 검증 가능한 계산 문제로 정의할 수 있다는 점이다. 암호학적 증명은 독점 가중치를 노출하지 않고도 “이 토큰들은 이 계산 아래에서 이 커밋된 가중치로부터 나왔다”는 좁은 범위의 주장을 사용자가 확인할 수 있게 해 줄 수 있다. 이는 모델 카드, 서비스 로그, 독립 평가를 보완할 수 있지만 대체할 수는 없다. 다음 이정표는 실용적인 통합, 증명 비용 절감, 더 긴 컨텍스트 지원, 그리고 보안 모델과 구현 양쪽에 대한 독립적 검토다.
출처
이 기사는 AIBARS 편집팀이 AI의 도움을 받아 정리했습니다. AI는 실수할 수 있으니 중요한 내용은 원문 출처를 확인해 주세요. 오류를 발견하셨나요? [email protected]으로 알려 주세요.