AI가 35년 묵은 수학 난제를 풀고 컴퓨터과학의 ‘상식’까지 뒤집었다? 오픈AI·앤트로픽이 같은 날 내놓은 ‘지수 시간 가설(ETH) 반박’으로 본 ‘발표’와 ‘검증’의 차이, 내 암호는 괜찮은지와 이런 뉴스 읽는 법을 초보도 쉽게

“AI가 수학 난제를 풀었다”는 뉴스, 요즘 자주 보시죠? 그런데 이번 주에는 그 무게가 조금 달랐어요. 오픈AI가 한국 시간 10월 27일 새벽, 수학·컴퓨터과학·물리학에서 오래 풀리지 않던 문제 세 가지를 자기 AI가 해결했다고 발표했거든요. 그중 하나는 컴퓨터과학자들이 25년 넘게 ‘아마 맞을 것’이라고 믿고 수백 편의 논문에 기대어 온 가설, ‘지수 시간 가설(ETH)’이 틀렸다는 주장이에요.

더 놀라운 건 몇 시간 뒤였어요. 앤트로픽도 자기 AI ‘클로드’가 같은 결론(ETH 반박)에 도달했다며 논문과 증명 파일을 깃허브에 올렸어요. 두 회사 모두 “우리 AI가 10월 16일에 찾았다”고 밝혔고요. AI타임스도 27일 이 소식을 비중 있게 전했어요.

그렇다면 이제 AI가 수학자를 대신하는 걸까요? 내 비밀번호나 은행 암호는 괜찮을까요? 결론부터 말하면 아직은 ‘발표(주장)’ 단계이고, 전문가 검증이 진행 중이에요. 오늘은 ① 무엇을 풀었다는 건지, ② ETH가 뭐고 왜 중요한지, ③ ‘발표’와 ‘검증’이 왜 다른지, ④ 이런 뉴스를 읽을 때 무엇을 확인하면 좋은지를 초보 눈높이로 풀어 볼게요.

무슨 일이 있었나요? 한눈에 보기

먼저 기초: ‘증명’과 ‘가설’은 뭐가 다를까?

수학에서 추측·가설은 “아마 이럴 거야”라는 믿음이에요. 아무리 많은 사례에서 맞아도, 모든 경우에 맞는다는 걸 논리로 보여 주기 전까지는 추측일 뿐이죠. 증명은 “누가 따져 봐도 반드시 이렇다”를 단계별 논리로 보여 주는 글이에요. 반대로 반박은 “이 믿음은 틀렸다”를 보여 주는 것이고요.

문제는 이런 증명이 수십 쪽, 길면 수백 쪽이라는 점이에요. 사람이 읽고 확인하는 데 몇 달, 몇 년이 걸리기도 해요. 그래서 요즘은 린(Lean)이라는 ‘증명 검사 프로그램’도 함께 써요. 증명을 컴퓨터가 읽을 수 있는 언어로 바꿔 넣으면, 논리의 빈틈이 없는지 기계가 한 줄씩 채점해 주는 거예요.

세 가지 발표, 한 줄씩 풀어 보면

지수 시간 가설(ETH)이 뭐길래?

스위치가 여러 개 있는 퍼즐을 떠올려 보세요. 스위치마다 켜거나 끌 수 있고, “A나 B나 C 중 하나는 켜져 있어야 한다”, “B가 꺼져 있거나 D가 켜져 있어야 한다” 같은 조건이 잔뜩 붙어 있어요. 모든 조건을 동시에 만족하는 스위치 조합이 있을까? 이게 컴퓨터과학에서 유명한 3-SAT(쓰리 샛) 문제예요. 조건 하나에 스위치가 최대 3개까지 나와서 ‘3’이 붙었어요.

이 퍼즐의 묘한 점은 정답을 확인하는 건 금방인데, 찾는 건 엄청 오래 걸린다는 거예요. 스위치가 n개면 가능한 조합이 2의 n제곱 개라서, 스위치가 하나 늘 때마다 경우의 수가 두 배가 돼요. 스위치 100개면 1초에 1조 가지씩 확인해도 400억 년 넘게 걸리는 양이에요.

연구자들은 1980년대부터 이 퍼즐을 더 빨리 푸는 꾀를 계속 찾아냈어요. 앤트로픽 논문에 따르면 지금까지 최고 기록은 ‘2의 n제곱’ 대신 대략 ‘1.328의 n제곱’(무작위성을 쓰는 방법은 1.308의 n제곱) 수준이었어요. 그래도 여전히 n이 커지면 폭발적으로 늘어나는 지수 함수죠.

ETH는 러셀 임팔리아초와 라마모한 파투리가 제안한 가설로, “밑을 아무리 줄여도 지수 함수 아래로는 못 내려간다”는 믿음이에요. 이 믿음을 전제로 “ETH가 맞다면 이 그래프 문제도 이만큼은 오래 걸린다” 같은 결론을 낸 논문이 그래프 이론, 계산생물학, 데이터베이스 등에서 수백 편이에요. 그러니까 ETH가 틀렸다면, 그 위에 쌓은 결론 일부를 다시 살펴봐야 하는 거예요.

오픈AI와 앤트로픽, 무엇이 같고 무엇이 다를까?

두 회사의 주장은 핵심이 같아요. 조건을 만족하는 스위치 조합을 ‘있다/없다’ 판정에 그치지 않고 정확히 몇 개인지 세는 방법을, 지수 함수보다 느리게 늘어나는 시간 안에 해낸다는 거예요. 시간 공식의 핵심 부분까지 같다고 해요.

그럼 내 생활엔 뭐가 달라질까? 오해와 사실

수학 쪽: ‘파도가 한 점에 모이는 순간’ 이야기

잔잔한 호수에 둥근 고리 모양 물결이 안쪽으로 모여든다고 생각해 보세요. 고리가 한 점에 모이는 순간에는 물결이 엄청 높아지지만, 금세 다시 퍼져 나가요. 1991년 수학자 크리스토퍼 소기는 “최악의 순간은 짧고, 시간을 두고 평균을 내면 파동은 생각보다 훨씬 얌전하다”는 걸 정확한 숫자로 표현한 추측을 내놓았어요. 이게 국소 평활화 추측이에요.

오픈AI는 이번 증명이 ‘새로운 보조 편미분방정식’을 활용했다고 설명했어요. 다만 발표문은 스타인의 제한 추측까지 ‘모든 차원에서’ 풀었다고 했지만, 논문 본문은 ‘추측 범위의 안쪽에서’라는 좀 더 조심스러운 표현을 써서, 정확히 어디까지인지는 전문가 판단이 필요하다는 지적도 있어요. 수학 분야는 별도 검토단 없이 원고와 린 파일을 공개해 누구나 검토하게 했어요.

물리 쪽: 왜 자료를 아직 공개하지 않았을까?

물리학 결과는 원자핵 속 입자를 묶는 힘을 설명하는 양-밀스 이론과 양자색역학(QCD)이 수학적으로 엄밀하게 ‘존재한다’는 증명이에요. 물리학자들은 오래전부터 이 이론으로 실험을 잘 설명해 왔지만, 수학적으로 빈틈없이 세우는 건 별개의 어려운 숙제였어요.

‘풀었다’가 ‘맞다’가 되기까지

이번 발표에서 가장 눈여겨볼 건 결과 자체보다 ‘검증의 순서’예요. 예전에는 한 연구팀이 발견하고, 확인하고, 설명까지 한 논문에 담았어요. AI 시대에는 이 세 가지가 서로 다른 사람, 다른 날짜로 쪼개져요.

ETH 검토단(임팔리아초·파투리·윌리엄스)은 동료들에게 보낸 공개 편지에서 “우리 참여를 인증으로 받아들이면 안 된다. 이만큼 중요한 결과는 신중하고 독립적인 검토가 필요하다”고 썼어요. 그러면서 “주장이 맞다면 이론 컴퓨터과학의 중요한 부분이 바뀔 것”이라고도 했고요. 오픈AI는 연구에 참여하는 학자들에게 비밀유지계약을 요구하지 않고, 회사는 학술적 공로를 주장하지 않겠다는 원칙도 밝혔어요.

오픈AI가 고른 세 가지 공개 방식

이런 ‘AI가 풀었다’ 뉴스, 이렇게 읽어 보세요

나도 AI로 수학·과학 공부를 해 봐도 될까?

물론이에요. 다만 이번 연구는 회사 내부의 특별한 연구용 모델로 한 일이라, 우리가 쓰는 챗봇이 똑같이 해 준다는 뜻은 아니에요. 대신 이런 식으로 쓰면 공부에 꽤 도움이 돼요.

자주 묻는 질문

Q. 그래서 ETH가 틀린 게 확정인가요?
A. 아직이에요. 두 회사가 같은 결론을 따로 냈다는 점은 눈길을 끌지만, 외부 전문가 검토가 끝나야 ‘확정’이라고 말할 수 있어요.

Q. 어떤 AI 모델이 했나요?
A. 오픈AI는 모델 이름을 밝히지 않았어요. 앤트로픽은 ‘내부 클로드 연구 모델’이라고만 했어요. 우리가 쓰는 공개 챗봇과는 다를 수 있어요.

Q. 내 컴퓨터 프로그램이 빨라지나요?
A. 당장은 아니에요. 앤트로픽 논문은 변수가 1,000만 개를 넘을 정도로 큰 문제에서나 효과가 날 수 있다고 했고, 오픈AI도 실용적 개선엔 추가 연구가 필요하다고 했어요.

Q. 이게 왜 그렇게 큰 뉴스인가요?
A. 수십 년간 전문가들이 ‘맞을 것’이라고 믿던 가설을 AI가 뒤집었다는 주장이라서예요. 맞다면 AI가 수학·과학 연구의 ‘발견’ 단계에 본격적으로 들어왔다는 신호가 되고, 동시에 누가 공을 세웠고 누가 확인했는지를 기록하는 방식도 새로 고민해야 해요.

자주 헷갈리는 말 정리

마무리: AI는 ‘발견’에, 사람은 ‘확인’에

이번 소식은 “AI가 드디어 진짜 연구를 한다”는 신호일 수도, 몇 주 뒤 “빈틈이 발견됐다”는 후속 기사로 이어질 수도 있어요. 확실한 건, 이제 AI가 낸 결과를 누가, 언제, 어떻게 확인했는지가 결과만큼 중요해졌다는 거예요.

오늘 하나만 기억해 주세요. 큰 발표를 보면 “외부 전문가가 확인했나?”를 먼저 물어보는 습관이요. 그 질문 하나로 AI 뉴스 속 과장과 사실을 꽤 잘 가려낼 수 있어요. 검증 결과가 나오면 모릭월드에서 다시 쉽게 풀어 드릴게요.