AI가 167년 묵은 ‘리만 가설’을 풀었다? 앤트로픽 수학자 알푀게와 클로드의 증명 주장으로 배우는 소수·제타 함수·영점의 뜻, 린(Lean) 파일 17만 5천 개를 검증하는 4단계와 ‘아직 확정 아님’인 이유 — 상금 100만 달러 조건까지 초보도 쉽게

수학에는 “이것만 풀면 역사책에 이름이 남는다”는 문제가 몇 개 있습니다. 그중에서도 첫손에 꼽히는 것이 1859년에 나온 리만 가설(Riemann Hypothesis)이에요. 167년 동안 세계 최고의 수학자들이 도전했지만 아무도 풀지 못했고, 미국 클레이 수학연구소가 2000년에 “풀면 100만 달러”를 걸어 둔 7대 난제(밀레니엄 문제) 중 하나이기도 합니다.

그런데 미국 시간 11월 20일(금), 한국 시간으로 어젯밤, AI 회사 앤트로픽(Anthropic)에서 일하는 수학자 레벤트 알푀게(Levent Alpöge)가 자기 홈페이지에 4쪽짜리 짧은 글을 올렸습니다. 첫 문장은 이렇습니다. “클로드(Claude)와 함께 작업하면서 리만 가설의 증명을 발견했다고 믿는다.” 함께 올린 것은 사람이 읽는 논문이 아니라, 컴퓨터가 한 줄 한 줄 검사할 수 있는 린(Lean)이라는 언어로 쓴 거대한 증명 파일이었어요.

해외 개발자 커뮤니티와 예측 시장까지 하루 만에 들썩였습니다. 오늘은 수학을 잘 몰라도 따라올 수 있도록 ① 리만 가설이 도대체 무엇인지, ② 이번에 정확히 무엇이 공개됐는지, ③ 컴퓨터 증명은 어떻게 검증하는지, ④ 왜 아직 “풀렸다”고 단정하면 안 되는지를 차근차근 정리해 보겠습니다.

수학자와 AI(클로드)가 함께 리만 가설 증명을 주장했다
수학자와 AI(클로드)가 함께 리만 가설 증명을 주장했다: 4쪽 메모와 린 코드가 공개됐지만 최종 검증은 아직 진행 중이다(그림은 이해를 돕기 위한 단순화)

1. 한눈에 보는 오늘 이야기

질문 짧은 답
무슨 일인가요? 앤트로픽 소속 수학자 레벤트 알푀게가 “클로드와 함께 리만 가설 증명을 찾았다”는 4쪽 메모와 린(Lean) 증명 파일을 공개했습니다(미국 시간 11월 20일).
얼마나 큰 주장인가요? 리만 가설뿐 아니라 더 넓은 버전인 일반화 리만 가설(GRH)까지 풀었다고 주장했어요. 사실이라면 수학사에 남을 사건입니다.
AI는 뭘 했나요? 알푀게는 방향을 잡았고, 막판에는 클로드가 자신을 “훨씬 앞질렀다”고 적었습니다. 핵심 아이디어 하나를 클로드가 제안했다고 밝혔어요.
무엇이 공개됐나요? 사람이 읽는 논문은 없고, 14조각으로 나뉜 린 코드 압축 파일(약 239MB, 린 파일 17만 5,187개)뿐입니다.
검증됐나요? MIT 수학자 앤드루 서덜랜드가 독립적으로 컴파일해 “표준 공리 3개만 썼다”고 밝혔습니다. 다만 마지막 관문인 비교기(Comparator) 검사 결과는 이 글을 쓰는 시점(한국 시간 11월 21일 새벽)까지 공개되지 않았어요.
회사 공식 입장은? 앤트로픽은 공식 논평을 내지 않았습니다(더 버지 보도).
상금 100만 달러는? 아직 멉니다. 클레이 규정상 정식 출판 후 최소 2년 동안 검증을 버티고 학계 전반의 인정을 받아야 해요.

2. 먼저 기초: 리만 가설은 뭘 묻는 문제인가요?

출발점은 소수(prime number)입니다. 1과 자기 자신으로만 나누어떨어지는 수, 2·3·5·7·11·13… 같은 수예요. 소수는 언뜻 보면 제멋대로 나타납니다. 101과 103은 2밖에 차이 나지 않는데, 113 다음 소수는 14나 건너뛴 127이에요.

범위 그 안의 소수 개수 느낌
10까지 4개 (2, 3, 5, 7) 10개 중 4개, 꽤 많아요
100까지 25개 4개 중 1개꼴
1,000까지 168개 6개 중 1개꼴로 점점 드물어져요

이렇게 큰 흐름은 ‘점점 드물어진다’로 예측할 수 있습니다(이것이 소수 정리예요). 문제는 “예측에서 얼마나 벗어날 수 있느냐”입니다. 1859년 독일 수학자 베른하르트 리만은 이 ‘오차’가 제타 함수라는 특별한 함수의 영점(함숫값이 0이 되는 지점)과 연결돼 있다는 걸 알아냈어요.

비유하면 이렇습니다. 소수의 분포를 하나의 ‘음악’이라고 하면, 제타 함수의 영점들은 그 음악을 만드는 ‘음표’입니다. 리만 가설은 “흥미로운 영점은 전부 한 줄(실수 부분이 1/2인 선) 위에 서 있다”는 주장이에요. 모두 그 줄 위에 있다면 소수의 오차가 가장 얌전한 수준으로 묶인다는 뜻이 됩니다.

리만 가설 한 장 요약
리만 가설 한 장 요약: 제타 함수의 ‘뻔하지 않은’ 영점은 0~1 사이 띠에 있고, 가설은 그 영점이 모두 1/2 선 위에 있다는 주장이다. 첫 영점들의 높이는 약 14.13, 21.02, 25.01이며 처음 10조 개는 계산으로 확인됐다
용어 쉬운 뜻
소수 1과 자기 자신으로만 나누어떨어지는 수(2, 3, 5, 7…)
제타 함수 ζ(s) 1 + 1/2s + 1/3s + … 처럼 생긴 함수. 소수 정보를 품고 있어요
영점 함숫값이 0이 되는 입력값. 리만 가설에서 말하는 건 ‘자명하지 않은’(뻔하지 않은) 영점이에요
임계선(1/2 선) 영점들이 사는 띠(0~1) 한가운데의 세로선. 리만 가설은 “영점이 모두 여기 있다”는 주장
일반화 리만 가설(GRH) 제타 함수의 ‘친척’ 함수들(디리클레 L-함수 등)에도 같은 규칙이 성립한다는 더 큰 주장
밀레니엄 문제 클레이 수학연구소가 2000년 고른 7대 난제. 문제당 상금 100만 달러

클레이 수학연구소 설명에 따르면 지금까지 처음 10조 개의 영점이 모두 그 선 위에 있다는 게 계산으로 확인됐습니다. 그런데도 ‘증명’이 아닌 이유는, 그다음 어딘가에서 단 하나라도 선을 벗어나면 가설이 깨지기 때문이에요. 아무리 많이 확인해도 “모든 영점”을 확인한 건 아니니까요. 그래서 수학자들은 계산이 아니라 논리로 끝까지 밀어붙이는 증명을 원했던 겁니다.

3. 이번에 정확히 무슨 일이 있었나요?

알푀게가 올린 4쪽 메모(remark.pdf)의 핵심 문장은 이렇습니다.

“나는 클로드와 함께 작업하면서 리만 가설의 증명을 발견했다고 믿는다. 사실 이 방법은 훨씬 더 나아가 이른바 일반화 리만 가설도 해결하며, 시간이 더 있으면 확장 리만 가설도 해결할 것으로 기대한다. 클로드와 나는 이 논증을 가정 없이 형식화(컴퓨터 검증용으로 옮김)까지 마쳤다.”

메모 각주에는 lean.tar.gz.part01부터 part14까지 14개 파일 링크가 달려 있습니다. 이걸 합치면 린 증명 전체가 됩니다. 알푀게는 “거대하고 읽을 수 없는 문서”를 그대로 올리는 건 부적절하다고 판단해 린 코드만 먼저 공개했고, 앞으로 논증을 이해하고 단순화해 제대로 된 글로 쓰겠다고 밝혔어요.

날짜 있었던 일
1859년 리만이 논문에서 가설을 제시
2000년 클레이 수학연구소, 밀레니엄 7대 난제에 포함(상금 100만 달러)
2026년 7월 알푀게, 클로드로 ‘야코비안 추측’ 관련 결과를 공개해 화제(더 버지·사이언티픽 아메리칸 보도)
2026년 8월 앤트로픽, 클로드가 “제타 함수의 영점 중 최소 67.25%가 임계선 위에 있다”는 결과를 냈다고 발표. 당시 “이 기법이 리만 가설 증명으로 이어지진 않을 것”이라고 적음
2026년 10월 6일 알푀게 메모 속 연구 타임라인의 첫 항목(클로드가 정리한 타임라인)
2026년 11월 15일 무렵 타임라인에 핵심 단계들이 몰려 있는 날. 알푀게는 “일요일 밤 늦게” 일이 벌어져 다리오 아모데이 최고경영자에게 메시지를 보냈다고 메모에 적음
2026년 11월 16일 타임라인의 마지막 항목: ‘GRH’
2026년 11월 19일(목) 앤트로픽 상장(IPO). 더 버지는 알푀게가 상장 이후로 발표를 미룬 것으로 보인다고 보도
2026년 11월 20일(금) 메모와 린 파일 공개. 같은 날 독립 검증 저장소가 생기고 테렌스 타오도 블로그에 소개

타이밍에 대해서는 알푀게 스스로 메모에서 “타이밍이 끔찍하다”며, 지켜야 할 제약이 있었고 “냉소적인 해석이 있을 수 있지만 사실이 아니다”라고 적었습니다. 회사 상장 직후라는 점 때문에 의심의 눈길이 있을 수 있다는 걸 본인도 알고 있었던 셈이에요.

4. 사람과 AI는 각각 무엇을 했나요?

이번 이야기가 AI 뉴스인 이유가 여기 있습니다. 알푀게는 메모에서 협업 과정을 꽤 솔직하게 묘사했어요.

누가 메모에 적힌 역할
알푀게(사람) 학생 시절부터 이 문제를 수십 년 계획으로 준비. 단순한 ‘장난감 모델’에서 서로 다른 두 아이디어를 결합하는 방향을 잡고, 실제 문제에 맞는 상황으로 이끎
클로드(AI) 막판에 “날아다니고 춤췄다”고 표현될 만큼 빠르게 진전. 핵심 장치(‘세타 리프트’를 사슬처럼 잇는 길이를 √X로 잡자는 아이디어)를 제안했다고 알푀게가 밝힘
클로드(AI) 증명을 린으로 형식화. 메모의 연구 타임라인도 클로드가 정리했다고 적음
알푀게(사람) “고차원 군 위의 보형 형식 등 일부 분야는 나도 아직 잘 모른다”고 인정. 앞으로 이해·단순화·집필을 하겠다고 약속

눈여겨볼 대목은, 증명을 ‘발견’한 사람조차 아직 증명 전체를 완전히 이해하지 못했다고 스스로 말한다는 점이에요. 그는 클로드가 만든 비공식 원고가 25만 쪽을 넘겼다고 각주에 적었습니다. 즉 지금 세상에 나온 건 “컴퓨터가 검사할 수 있는 증명”이지, “사람이 읽고 이해한 증명”은 아직 아닙니다. 테렌스 타오도 블로그에서 이를 “(거대한) 린 전용 증명”이라고 부르며, 소화하는 데 시간이 걸릴 것이라고 했어요.

참고로 어떤 클로드 모델을 썼는지는 메모에 나오지 않습니다. 타오는 “내부 AI 모델”이라고만 표현했어요.

5. ‘린(Lean)’ 증명이 뭔가요? 왜 그렇게 중요한가요?

보통 수학 증명은 사람이 쓰고, 다른 수학자들이 몇 달~몇 년 동안 읽으며 오류를 찾습니다. 린은 이 과정을 컴퓨터에게 맡길 수 있게 해 주는 ‘증명 검사용 프로그래밍 언어’예요. 증명의 모든 단계를 아주 엄격한 형식으로 적으면, 린의 핵심 검사기(커널)가 한 단계도 빠짐없이 논리가 맞는지 확인합니다.

비유하자면 사람 심사위원이 채점하던 시험을, 절대 졸지 않는 자동 채점기에 넣는 거예요. 단, 자동 채점기는 “답안이 문제에 맞게 풀렸는지”는 검사하지만, “문제지 자체가 맞게 인쇄됐는지”는 따로 확인해야 합니다. 이 부분이 뒤에서 말할 ‘비교기 검사’의 핵심이에요.

공개된 린 증명의 규모
공개된 린 증명의 규모: 린 파일 175,187개, 약 1,737만 줄, 정리·보조정리 약 81.9만 개, 14조각 압축 파일 약 239MB(독립 검증 저장소 집계)
항목 공개된 린 증명 규모(독립 검증팀 집계)
압축 파일 14조각, 합치면 239,275,554바이트(약 239MB)
린 파일 수 175,187개
소스 크기 약 1.03GB, 17,374,215줄(빈 줄 제외 15,531,759줄)
정리·보조정리 선언 818,755개
주석 없음
위험 표시 단어 검색 sorry(증명 생략), axiom(새 가정) 등은 발견되지 않음

수치는 깃허브의 독립 검증 저장소(Deicyde/riemann-hypothesis) 노트에 정리된 내용입니다. 최종 결론부의 핵심 줄은 놀랄 만큼 짧아요. theorem riemannHypothesis : RiemannHypothesis := rhOfAll. 여기서 RiemannHypothesis는 린의 공용 수학 라이브러리 매스립(Mathlib)에 이미 들어 있던 ‘리만 가설’의 공식 문장이에요. 즉 “매스립이 정의한 바로 그 리만 가설을 증명했다”고 주장하는 겁니다.

6. 그럼 지금 검증은 어디까지 왔나요?

컴퓨터 증명이라고 해서 “올리자마자 확정”은 아닙니다. 전문가들이 말하는 확인 순서를 계단으로 정리하면 이렇습니다.

증명 주장에서 정답 인정까지 4계단
증명 주장에서 정답 인정까지 4계단: 린 컴파일과 공리 확인은 독립 재현이 보고됐고, 문장이 바뀌지 않았는지 보는 비교기 검사는 진행 중, 학계 검토와 클레이 상금은 아직 먼 이야기다(한국 시간 11월 21일 새벽 기준)
단계 무엇을 확인하나 현재 상태(한국 시간 11월 21일 새벽 기준)
① 컴파일 다른 사람 컴퓨터에서도 린이 오류 없이 증명을 받아들이는지 MIT 앤드루 서덜랜드 등이 독립적으로 컴파일했다고 사이언티픽 아메리칸이 보도
② 공리 확인 몰래 새 ‘가정(공리)’을 끼워 넣지 않았는지 서덜랜드: “린 커널로 다시 검사했고, 표준 공리 3개만 썼다”
③ 비교기(Comparator) 검사 증명이 정말 ‘원래 리만 가설 문장’을 증명하는지, 기호의 뜻을 몰래 바꾸지 않았는지, 여러 독립 검사기에서도 통과하는지 진행 중. 독립 검증 저장소는 “빌드 중이며 결과는 나오는 대로 올린다”고 밝힘
④ 사람의 이해·학계 검토 증명의 아이디어를 사람이 이해하고 논문으로 정리, 학계가 받아들이는지 아직 시작 단계. 사람이 읽을 논문은 미공개

임페리얼 칼리지 런던의 수학자 케빈 버저드는 린 커뮤니티 채팅방에서 “아직 성공적인 비교기 실행을 기다리고 있다”며, 이 검사가 ① 코드가 문장 속 기호의 뜻을 몰래 바꾸지 않았는지, ② 린 공식 검사기의 알려지지 않은 버그를 이용한 건 아닌지(여러 독립 검사기로 확인)를 본다고 설명했어요.

검증팀 노트에는 이런 대목도 있습니다. 증명 일부(67개 파일)에 쓰인 특수 명령은 린의 ‘앞단 검사(엘라보레이터)’를 건너뛰고 결과를 바로 끼워 넣는 방식이라, 이런 부분은 결국 최종 커널 검사가 책임지게 된다는 거예요. 그래서 커널 단계의 독립 재확인이 더욱 중요해졌습니다. 규모도 만만치 않아서, 서덜랜드의 내보내기 파일은 약 61.6GB였고 내보내는 데 한 스레드로 약 1시간 20분, 메모리는 최대 163GB를 썼다고 기록돼 있어요.

7. 전문가들은 뭐라고 하나요?

누가 한 말(요지)
앤드루 서덜랜드(MIT 수학자) “역사적인 순간이다. 세상이 바뀌었다.” “무언가 수상할 가능성은 거의 0에 가깝다.” 다만 “증명의 수학적 세부를 이해하려면 할 일이 많다”
케빈 버저드(임페리얼 칼리지 런던) “가장 먼저 물을 질문은 린 코드 속 정리 문장이 실제 정리와 일치하느냐다.” 비교기 결과를 기다리는 중
테렌스 타오(UCLA, 필즈상 수상자) 린 줄립 토론방이 검증을 지켜보기 가장 좋은 곳. 초기 분석상 랭글랜즈 프로그램과 산술 기하학의 현대 성과를 총동원한 것으로 보이며, 소화하는 데 시간이 걸릴 것
엑토르 파스텐(칠레 가톨릭대) “맞다면 서로 다른 수학 분야를 잇는 사전을 완성하는 셈. 로제타석 같은 것”
카를로 파가노(콘코디아대) 맞다면 증명 속 새 아이디어가 정수론에 완전히 새로운 길을 열 것
앤트로픽 공식 논평 없음(더 버지)

8. 아직 조심해야 할 이유 5가지

분위기는 뜨겁지만, 초보자일수록 “풀렸다!”와 “풀었다고 주장했다”를 구분해 읽는 게 중요합니다.

주의할 점 왜 중요한가요?
최종 비교기 결과가 아직 없음 증명이 ‘다른 문장’을 증명했을 가능성을 완전히 지우는 단계예요. 한 연구진은 10월 논문에서 문제와 형식화 사이에 어긋남이 있으면 린 검사도 “확신을 주지 못한다”고 경고했습니다(오픈AI 나비에-스토크스 주장 사례를 들며).
사람이 읽을 논문이 없음 컴퓨터는 “맞다”고 해도 사람은 “왜 맞는지”를 아직 모릅니다. 수학계의 진짜 인정은 이해에서 나와요.
회사 공식 발표가 아님 개인 홈페이지의 메모예요. 앤트로픽은 8월엔 “이 기법이 리만 가설 증명으로 이어지진 않을 것”이라고 했었습니다.
‘사람의 증명’ 주장도 동시에 등장 같은 날 미국수학회 회장 라비 바킬이, 스탠퍼드의 젊은 수학자 알레산드로 마술로가 몇 달 전부터 AI 없이 쓴 증명을 다듬고 있었다고 공개했어요. 다만 그 원고는 “대폭 수정 중”이고 검증되지 않았습니다.
상금은 몇 년 뒤 이야기 클레이 규정상 정식 출판 + 최소 2년 + 학계 전반의 인정이 필요해요. 클레이 홈페이지는 11월 21일 현재도 리만 가설을 ‘미해결(Unsolved)’로 표시하고 있습니다.

9. 상금 100만 달러는 어떻게 받나요?

클레이 규정의 조건 이번 경우
자격을 갖춘 곳에 정식 출판 아직 없음(린 코드와 4쪽 메모뿐)
출판 후 최소 2년 경과 시작도 안 됨
세계 수학계의 전반적 인정 검증 진행 중
지금까지 실제 지급 사례 7문제 중 공식 해결은 푸앵카레 추측 하나뿐(더 버지)

재미있는 건 숫자로 분위기를 보여 주는 곳도 있었다는 점이에요. 예측 시장 폴리마켓의 “AI가 2026년에 어떤 수학 문제를 풀까?” 시장에서, 리만 가설 항목의 ‘예’ 가격은 한국 시간 21일 새벽 기준 약 0.75(75%)까지 올라 있었습니다. 다만 이 시장은 “자격 있는 AI 회사나 그 공식 대표가 해결을 발표해야 한다” 같은 자체 규칙으로 정산되므로, 수학적 진실과는 다른 이야기라는 점만 기억해 두세요.

10. 올해 ‘AI 수학’의 흐름 속에서 보면

이번 일은 갑자기 떨어진 게 아니라, 올 한 해 이어진 흐름의 정점에 가깝습니다.

시기 사건(보도 기준)
7월 알푀게, 클로드로 야코비안 추측 관련 결과 공개
8월 앤트로픽, 제타 영점의 최소 67.25%가 임계선 위에 있다는 결과 발표
9월 오픈AI, 외부 힘을 가한 경우의 나비에-스토크스(유체 방정식) 문제 해결 주장. 연구 관행을 둘러싼 논란도 함께 불거짐
10월 오픈AI가 대량의 수학 결과를 공개. 사이언티픽 아메리칸은 그중 하나가 소수 이해에 의미 있는 진전이었다고 평가
11월 20일 알푀게·버크매스터(·코이쿨레스쿠)의 외부 힘 없는 오일러/나비에-스토크스 특이점 증명 주장, 그리고 리만 가설·GRH 증명 주장

사이언티픽 아메리칸은 올해 AI의 수학 실력이 “믿기 어려운 대학생 수준에서 초인적인 힘으로” 올라섰다고 표현했어요. 동시에 수학자들 사이에서는 상실감도 큽니다. 알푀게 자신도 메모에서 “끝처럼 느껴지는 건 자연스럽다. 내게는 길잡이 별을 잃는 일”이라면서도 “이것은 훨씬 더 큰 무언가가 과학 전반에 동트는 새벽”이라고 적었습니다.

11. 그래서 우리 생활엔 뭐가 달라지나요?

흔한 오해 실제
“리만 가설이 풀리면 인터넷 암호가 깨진다” 사이언티픽 아메리칸은 당장의 현실 응용은 없고, 은행 시스템을 뒤엎거나 인터넷을 빠르게 만들지도 않는다고 설명했어요. 리만 가설은 이미 ‘참일 것’이라고 보고 연구해 온 경우가 많습니다.
“AI가 혼자 다 풀었다” 메모상으로는 수십 년 준비한 전문가가 방향을 잡고, AI가 핵심 아이디어와 방대한 형식화를 맡은 협업입니다.
“컴퓨터가 검사했으니 100% 확정” 컴퓨터는 ‘주어진 문장’을 검사할 뿐이에요. 문장이 원래 문제와 같은지, 검사 도구에 빈틈이 없는지까지 확인해야 합니다.
“수학자는 이제 필요 없다” 오히려 지금 필요한 건 25만 쪽짜리 원고와 1,700만 줄 코드를 사람이 이해할 수 있게 ‘번역’하는 일이에요. 서덜랜드도 “증명의 세부를 파고들 날이 기다려진다”고 했어요.

우리에게 더 가까운 의미는 따로 있습니다. AI가 “그럴듯한 말”을 넘어 컴퓨터로 검사 가능한 결과물을 내놓는 시대가 왔다는 점이에요. 코딩, 반도체 설계, 법률 문서처럼 정답을 기계로 확인할 수 있는 분야일수록 이런 방식이 빠르게 번질 가능성이 큽니다.

12. 이런 뉴스를 읽을 때 체크리스트

물어볼 질문 이번 사례에 대입하면
누가, 어디서 발표했나? 회사가 아니라 소속 연구자 개인 홈페이지
무엇이 공개됐나? 린 코드(검사 가능)는 있음, 사람이 읽는 논문은 없음
독립된 제3자가 재현했나? 컴파일·공리 확인은 독립 재현 보고, 최종 비교기 결과는 대기
반대 의견·경쟁 주장은? 사람의 증명 주장(검증 안 됨), 형식화 불일치 위험 경고 존재
공식 기관 입장은? 클레이 홈페이지 ‘미해결’ 유지, 앤트로픽 무논평

13. 앞으로 지켜볼 것

가장 먼저 나올 소식은 비교기 검사 결과입니다. 검증팀 추정으로는 하드웨어에 따라 몇 시간 단위 작업이라, 며칠 안에 “통과” 또는 “문제 발견” 소식이 나올 가능성이 높아요. 그다음은 알푀게가 약속한 사람이 읽을 수 있는 정리본, 그리고 타오의 말처럼 수학계가 이 증명을 ‘소화’하는 긴 시간이 이어질 겁니다.

정리하면, 지금 시점의 가장 정확한 한 줄은 이렇습니다. “AI와 함께 만든 리만 가설 증명이 공개됐고, 첫 독립 검사들은 긍정적이지만, 최종 검증과 학계의 인정은 아직 진행 중이다.” 결과가 나오면 MoricWorld에서도 다시 쉽게 풀어 드릴게요.