안녕하세요, 모릭월드입니다. 식당에서 ‘한우 100%’라고 적힌 메뉴를 시키면, 우리는 보통 그 말을 믿고 먹어요. 그래도 마음 한구석에서 “정말 한우일까?” 싶을 때가 있죠. 그래서 소고기에는 이력번호가 붙고, 명품 가방에는 정품 인증서가 따라오고요.
AI도 비슷한 고민이 있어요. 챗봇 화면에 ‘최신 고급 모델’이라고 적혀 있어도, 실제로 그 모델이 답했는지 우리는 확인할 방법이 사실상 없어요. 그런데 클로드를 만드는 앤트로픽이 11월 2일(미국 시간) 이 문제를 푸는 연구 결과 ‘플래시프루브(FlashProve)’를 공개했어요. AI 회사가 모델의 비밀(가중치)은 숨긴 채, “이 답은 정말 우리가 약속한 그 모델이 계산했다”를 수학으로 증명하는 기술이에요. 오늘은 이게 왜 필요한지, 어떻게 작동하는지, 숫자는 어떤 뜻인지, 그리고 아직 무엇이 안 되는지까지 차근차근 풀어 볼게요.
한눈에 보기: 플래시프루브가 뭐예요?
| 항목 | 내용 |
|---|---|
| 이름 | 플래시프루브(FlashProve) |
| 만든 곳 | 앤트로픽(Anthropic) 프런티어 레드팀 + EPFL·MIT 등 외부 연구진 |
| 공개일 | 2026년 11월 2일(미국 시간) 연구 블로그·기술 보고서·코드 공개 |
| 한 줄 요약 | AI 답변이 ‘약속한 바로 그 모델’에서 나왔는지 암호학적 증명으로 확인 |
| 핵심 기술 | 영지식 증명의 한 종류인 zkSNARK(지케이스나크) |
| 시험한 모델 | 메타의 라마 4 매버릭(4,000억 매개변수, 전문가 혼합 MoE, 4비트) |
| 공개 방식 | 깃허브에 아파치 2.0 오픈소스로 공개(유지보수하지 않는 연구 결과물) |
| 지금 쓸 수 있나? | 일반 사용자용 기능은 아님. 테크크런치 보도로는 앤트로픽·다른 회사 모두 아직 실제 서비스 도입 계획 없음 |
왜 이런 기술이 필요할까요? “라벨만 믿어야 하는” 지금의 AI
친구와 직접 만나면 얼굴을 보고, 목소리를 듣고, 악수도 하니 “진짜 그 친구”라는 걸 바로 알아요. 앤트로픽은 블로그에서 AI와 대화할 때는 이런 확인 수단이 거의 없다고 짚었어요. 답변이 그럴듯해도, 그 답변만 보고 어떤 모델이 만들었는지 가려내기는 어렵다는 거예요.
앤트로픽이 예로 든 상황은 이런 것들이에요. 일상 사례로 바꿔 보면 더 쉽게 와닿아요.
| 앤트로픽이 든 걱정 | 쉽게 비유하면 | 누가 곤란해지나 |
|---|---|---|
| 중간 연결 업체(라우팅 서비스)가 비용을 아끼려고 몰래 더 싼 모델로 바꿔치기 | ‘한우’ 메뉴에 수입육을 섞어 내는 식당 | 비싼 모델 값을 낸 이용자 |
| 평가 기관이 시험한 모델과 실제 서비스되는 모델이 다름 | 시험 볼 때만 우등생이 대신 앉는 대리 시험 | AI 안전 평가 기관·규제 당국 |
| 해커가 서버를 장악해 답변 흐름을 조작 | 택배 상자를 중간에 열어 내용물을 바꿔치기 | 악성 답변을 받는 사용자, 서비스 회사 |
| “최고급 보안 AI로 코드를 점검했다”는 주장을 확인할 길이 없음 | “전문가 검수 완료” 도장만 있고 증빙은 없음 | 그 주장을 믿고 쓰는 사람·회사 |
| 규제상 ‘승인된 모델’만 서비스해야 하는데 몰래 다른 모델 사용 | 검사받은 차 대신 불법 개조 차를 몰고 나옴 | 규제 당국·사회 전체 |
여기서 중요한 점이 하나 있어요. 그냥 “모델 파일(가중치)을 다 공개하면 되지 않나?” 싶지만, 가중치는 AI 회사의 가장 중요한 영업 비밀이에요. 게다가 공개하더라도 4,000억 개 숫자로 된 모델을 내 컴퓨터에서 직접 돌려 대조하는 건 보통 사람에겐 불가능하죠. 그래서 필요한 게 “비밀은 숨기고, 사실만 증명하는” 방법이에요.
‘영지식 증명’, 비밀 레시피를 안 보여 주고 “우리 레시피 맞다” 증명하기
플래시프루브의 바탕은 영지식 증명(Zero-Knowledge Proof)이에요. 이름이 어렵지만 뜻은 단순해요. “내가 무언가를 안다(또는 제대로 했다)는 사실은 증명하되, 그 내용 자체는 0(영)만큼도 알려 주지 않는다”는 거예요.
유명한 맛집의 비밀 양념 레시피를 떠올려 보세요. 사장님은 레시피를 절대 보여 주고 싶지 않아요. 그런데 손님은 “오늘 이 국물도 정말 그 레시피로 끓였나요?”가 궁금하죠. 영지식 증명은 레시피는 금고에 넣어 둔 채, 오늘 국물이 그 레시피대로 끓여졌다는 ‘검사 통과 증명서’만 건네는 방법이라고 생각하면 돼요.
| 어려운 말 | 쉬운 뜻 | 비유 |
|---|---|---|
| 가중치(weights) | AI 모델의 실력을 결정하는 수천억 개의 숫자 | 비밀 양념 레시피 |
| 커밋먼트(commitment) | 가중치를 하나로 딱 고정해 두는 짧은 ‘지문’ | 레시피를 봉인한 금고에 붙인 일련번호 |
| 증명 파일(proof) | 이 답이 그 지문의 모델로 계산됐다는 수학적 증빙 | 검사 통과 증명서 |
| 영지식(zero-knowledge) | 증명 파일을 봐도 가중치에 대해 알 수 있는 게 없음 | 증명서를 아무리 봐도 레시피는 알 수 없음 |
| 간결성(succinct) | 증명은 작고, 확인은 원래 계산보다 훨씬 빠름 | 요리를 다시 안 해도 도장만 보면 확인 |
| zkSNARK | 위 성질을 갖춘 암호 증명 방식의 이름 | ‘위조 불가 증명서’ 양식 |
작동 방식 3단계: 지문 공개 → 증명 파일 → 내 PC로 확인
앤트로픽 설명에 따르면 플래시프루브에는 두 사람이 등장해요. 증명하는 쪽인 AI 회사(증명자)와, 확인하는 쪽인 이용자(검증자)예요. 과정은 크게 세 단계로 나눠 볼 수 있어요.
| 단계 | 누가 | 무엇을 | 비유 |
|---|---|---|---|
| ① 지문 공개(오프라인 단계) | AI 회사 | 모델 가중치에 대한 짧은 ‘지문(커밋먼트)’을 미리 공개. 가중치 자체는 숨김 | 레시피 금고에 일련번호를 붙여 공개 |
| ② 증명 파일 만들기 | AI 회사의 GPU 서버 | 이용자의 질문과 답변에 대해 “지문의 그 모델이 이 답을 냈다”는 증명 파일 생성 | 오늘 국물에 대한 검사 증명서 발급 |
| ③ 확인하기 | 누구나(일반 CPU로) | 지문 + 내 질문 + 받은 답 + 증명 파일을 대조해 통과/불통과 확인 | 증명서 일련번호를 금고 번호와 맞춰 보기 |
핵심은 ③단계를 GPU 없이 평범한 CPU로 할 수 있다는 점이에요. 깃허브 설명에도 “누구나 가중치 없이 일반 CPU에서 몇 초 만에 확인할 수 있다”고 적혀 있어요. 만약 회사가 몰래 다른 모델로 답했다면 증명 파일이 지문과 맞지 않아 검사에서 떨어지게 돼요. 앤트로픽은 거짓 내용에 대해 통과하는 증명을 만드는 건 널리 믿어지는 암호학적 가정을 깨는 것과 맞먹을 만큼 사실상 불가능하다고 설명했어요.
참고로 플래시프루브는 답변을 먼저 보내고 나중에 별도로 증명을 만드는 ‘사후(post-hoc) 방식’이에요. 그래서 조작된 답변이 전달되는 순간을 막는 장치라기보다는, 나중에 검증해서 들통나게 하는 쪽에 가까워요.
숫자로 보는 플래시프루브: 19MB, 17초, 70~95배
앤트로픽은 메타의 공개 모델 라마 4 매버릭(4,000억 매개변수, 단어 하나를 만들 때 실제로 쓰는 건 약 170억 개인 ‘전문가 혼합’ 구조)의 4비트 버전으로 성능을 시험했어요. 공개된 수치는 다음과 같아요.
| 항목 | 공개된 수치 | 쉽게 말하면 |
|---|---|---|
| 증명 만드는 장비 | H100 GPU 1장 + CPU 24코어 서버 | 데이터센터용 고급 GPU 한 장으로 가능 |
| 처음 지문 만들기 | 모델당 1회, 약 39분 | 한 번 만들면 약 1,600만 건 요청까지 사용 |
| 증명 속도 | 요청 24건 묶음에 약 223초, 초당 약 110토큰 | 묶어서 한꺼번에 처리해 속도를 냄 |
| 증명 파일 크기 | 요청 1건(1,024토큰)당 약 19MB(18.78MB) | 고화질 사진 몇 장 정도 크기 |
| 내려받는 지문 크기 | 약 6.5MB | 확인하는 쪽이 처음 한 번 받아 두는 파일 |
| 검증 시간 | CPU 24스레드로 약 17초, 1스레드로 약 21초 | GPU 없이 일반 컴퓨터로 확인 |
| 추가 비용 | 같은 일을 vLLM으로 그냥 처리할 때보다 GPU 시간이 약 70~95배 | 증명을 만드는 쪽 부담은 아직 큼 |
“70~95배나 더 든다니 너무 비싼 거 아니야?” 싶을 수 있어요. 그런데 이전 기록과 비교하면 이야기가 달라져요. 앤트로픽이 소개한 바로는, 같은 라마 4 매버릭을 증명한 이전 연구(VerInf)는 1,000토큰에 14.3시간이 걸렸고 증명 파일이 93.6GB, 검증에도 거의 하루가 걸렸대요. 그에 비하면 19MB·17초는 엄청난 단축이에요.
| 비교 | 이전 연구(VerInf) | 플래시프루브 |
|---|---|---|
| 대상 모델 | 라마 4 매버릭 | 라마 4 매버릭(같은 모델) |
| 증명 속도 | 1,000토큰에 14.3시간(DGX Spark) | 초당 약 110토큰(H100 1장) |
| 증명 파일 크기 | 93.6GB | 약 19MB |
| 검증 시간 | 거의 하루 | 약 17초 |
클로드가 직접 개발에 참여했다는 게 무슨 뜻?
이번 발표에서 눈에 띄는 대목은 AI가 AI 검증 기술 개발을 이끌었다는 점이에요. 앤트로픽은 클로드가 암호학 연구에 쓰이던 최신 도구들을 새로운 방식으로 적용해, 기존 오픈소스 시스템보다 훨씬 빠른 증명 시스템을 만들었다고 밝혔어요.
다만 앤트로픽은 스스로 조심스러운 태도도 보였어요. “클로드는 최적화를 잘하지만, 크고 복잡한 시스템에서는 평가하기 어려운 결정을 자주 내린다”고 인정했죠. 그래서 린(Lean)이라는 ‘수학 증명 검사 언어’로 핵심 보안 성질을 기계가 확인할 수 있게 정리했고, 클로드가 쓴 프로토콜 명세서는 연구진이 직접 쓴 기술 보고서와 구분해서 공개했어요. 쉽게 말해 “AI가 만든 결과물을 사람이 다 따라 읽기 어려우니, 수학 검사기로 한 번 더 확인했다”는 거예요.
| 공개한 자료 | 설명 |
|---|---|
| 연구 블로그 | 시스템 개요와 활용 가능성 설명 |
| 기술 보고서 | 연구진이 쓴 상세 기술 설명 |
| 프로토콜 명세서 | 클로드가 작성한 문서(별도로 구분) |
| 실행 코드 | 증명기 1개와 검증기 2개(빠른 C++ 검증기, 수학적으로 검증된 린 검증기) |
| 린(Lean) 증명 | 핵심 보안 성질의 수학 증명과 이를 살펴볼 수 있는 시각화 도구 |
꼭 알아 둘 한계: ‘진짜 그 AI’와 ‘맞는 답’은 다른 이야기
여기서 가장 많이 오해할 수 있는 부분이 있어요. 증명을 통과했다고 해서 답이 맞다는 뜻은 아니에요. 증명이 보장하는 건 “약속한 모델이 이 계산을 했다”는 것뿐이에요. 그 모델이 틀린 정보를 말했다면, 증명은 “그 모델이 틀린 말을 한 게 맞다”를 확인해 줄 뿐이죠. 정품 인증서가 붙은 가방이라도 내 취향에 맞는지는 별개인 것과 같아요.
| 한계 | 무슨 뜻인지 | 일상 비유 |
|---|---|---|
| 사실성은 보장 안 함 | 모델이 계산한 건 맞지만 내용이 맞는지는 별개 | 정품 인증 ≠ 품질 보증 |
| 짧은 대화만 가능 | 현재 1,024토큰 문맥까지만. 수십만~수백만 토큰을 다루는 요즘 챗봇에 비해 짧음 | A4 한두 장 분량만 검사 가능 |
| 정수·‘가장 확률 높은 답’ 기준 | 정수로 바꾼 모델이 매번 가장 확률 높은 단어를 고른 경우를 증명. 일반 서비스처럼 무작위성을 섞으면 어긋날 수 있음 | 같은 레시피라도 ‘매번 똑같이’ 끓일 때만 검사 가능 |
| 모델 구조는 안 숨김 | 가중치는 숨기지만 모델 설계(구조)는 공개 전제 | 레시피는 숨겨도 조리 순서표는 공개 |
| 전문가 혼합(MoE) 모델 전제 | 다른 구조의 모델은 아직 대상 아님 | 특정 주방 구조에서만 검사 장비 설치 가능 |
| 빠른 실행 코드는 정식 보장 없음 | 수학 증명은 린 버전에 대해서이고, 빠른 C++ 코드가 똑같다는 정식 보장은 없음(테스트에선 일치) | 설계도는 검증됐지만 실제 건물은 육안 점검 |
| 부수 정보 유출(사이드 채널) | 증명 만드는 시간 등으로 정보가 샐 가능성은 이번 범위 밖 | 금고는 튼튼해도 여닫는 소리로 추측할 여지 |
| 완성품 아님 | 연구용 시제품. 유지보수·외부 기여도 받지 않음 | 시험 매장, 아직 정식 개점 전 |
그럼 지금 우리 생활엔 뭐가 달라질까요?
솔직히 말해 오늘 당장 내 챗GPT나 클로드 화면이 달라지는 건 없어요. 테크크런치는 앤트로픽을 포함해 어떤 AI 회사도 아직 이 시스템을 실제 서비스에 넣을 계획이 없다고 전했어요. 앤트로픽은 이번 공개가 “완성된 연구가 아니라 중간 진행 상황을 나누는 것”이라며, 다른 연구자들이 가져다 개선해 주길 바란다고 밝혔어요.
참고로 앤트로픽은 올해 안전 로드맵에서 “2026년 9월 30일까지 AI 출력을 특정 모델에 서명하듯 연결하는 시제품을 만들겠다”는 목표를 걸었는데, 이 목표는 별도의 다른 방식(자사 답변 흐름에 서명하고 신뢰할 수 있는 서버에서 다시 계산해 보는 방식)으로 달성했다고 설명했어요. 플래시프루브는 같은 목표를 암호학으로 푸는 또 하나의 길인 셈이에요.
그래도 이 흐름은 우리에게 시사하는 바가 커요. 앞으로 AI가 은행 상담, 병원 안내, 공공 서비스에 더 많이 들어올수록 “어떤 AI가 답했는지”를 확인할 권리가 중요해질 테니까요. 지금 바로 실천할 수 있는 습관을 정리해 봤어요.
| 상황 | 지금 할 수 있는 일 | 이유 |
|---|---|---|
| 유료 AI를 쓸 때 | 가능하면 AI 회사 공식 앱·웹에서 직접 구독 | 중간 업체를 거칠수록 어떤 모델이 답했는지 확인하기 더 어려움 |
| “최신 모델 무제한 초저가” 광고를 볼 때 | 누가 운영하는지, 어떤 모델을 쓰는지 공식 근거가 있는지 확인 | 앤트로픽이 지적한 ‘몰래 싼 모델로 바꿔치기’ 걱정과 같은 구조 |
| AI 답을 중요한 결정에 쓸 때 | 공식 자료·전문가로 사실 확인 | ‘진짜 그 모델’이어도 답은 틀릴 수 있음 |
| 회사에서 AI를 도입할 때 | 계약서에 사용 모델·버전 명시, 변경 시 알림 조항 확인 | 지금은 기술보다 약속(계약)이 1차 안전장치 |
| “AI가 검수했다”는 홍보를 볼 때 | 어떤 모델로, 무엇을 점검했는지 구체적 근거를 찾아보기 | 검증 기술이 보편화되기 전까진 주장만으로 판단하기 어려움 |
자주 묻는 질문
| 질문 | 답 |
|---|---|
| 내가 지금 클로드에서 이 기능을 켤 수 있나요? | 아니요. 연구용 공개 코드이고, 일반 사용자 기능이 아니에요. |
| 그럼 지금 AI 회사들이 모델을 바꿔치기하고 있다는 뜻인가요? | 그렇다는 발표는 아니에요. 앤트로픽은 이용자가 그걸 확인할 수단이 없다는 점을 문제로 짚은 거예요. |
| 증명 파일을 보면 AI의 비밀이 드러나지 않나요? | 영지식 성질 덕분에 가중치나 중간 계산값, 어떤 전문가가 작동했는지는 드러나지 않도록 설계됐어요. 다만 모델 구조는 숨기지 않아요. |
| 블록체인이랑 관련 있나요? | 같은 계열의 암호 증명(zkSNARK)이 이더리움 확장 네트워크 등에서 쓰이고 있어요. 플래시프루브 자체는 블록체인 서비스가 아니에요. |
| 양자컴퓨터에도 안전한가요? | 기술 보고서는 해시 함수 기반이라 미래 양자컴퓨터 공격에도 견딜 가능성이 있는(그럴듯한) 보안을 제공한다고 설명해요. |
마무리: AI에도 ‘정품 인증서’가 붙는 날
지금까지 우리는 AI 답변 위에 적힌 모델 이름표를 그냥 믿어야 했어요. 플래시프루브는 그 이름표 옆에 위조할 수 없는 증명서를 붙이는 기술이 실제로 큰 모델에서도 돌아갈 수 있다는 걸 보여 준 첫걸음이에요. 아직 짧은 대화만 되고, 증명 비용도 크고, 정식 서비스 계획도 없지만, 몇 년 전만 해도 몇 시간·몇 GB 단위였던 일이 몇 초·몇 MB로 줄었다는 건 분명 큰 변화예요.
기억할 한 줄은 이거예요. “진짜 그 AI가 답했다”와 “맞는 답이다”는 다른 이야기. 앞으로 AI 신원 확인 기술이 자리 잡더라도, 중요한 결정 앞에서는 늘 한 번 더 확인하는 습관을 지켜 주세요. 모릭월드는 앞으로도 복잡한 AI 소식을 쉽게 풀어 드릴게요.