AI가 독창적인 수학을 할 수 있다는 것이 방금 증명됐다. 필즈상 수상자는 방금 그것을 감시하기로 선택했다

칼럼 개요

2026년 여름, 두 가지 발표가 일주일 간격으로 나왔다. 둘 다 같은 분야와, 결과적으로는 같은 회사에 닿아 있었다. 어느 쪽도 상대에 대한 대응으로 발표되지는 않았다. 하지만 함께 읽으면, AI 산업이 실제로 어디에 서 있는지에 대해 각각 따로 볼 때보다 훨씬 더 많은 것을 말해준다.

문제의 그 주

2026년 7월 23일, 필라델피아에서 열린 세계수학자대회에서 제이콥 치머만은 앙드레-오르트 추측을 증명한 공로로 필즈상을 받았다. 필즈상은 수학계가 4년에 한 번 수여하는 4개의 상 중 하나로, 경력 중반에 주어지는 사실상의 평생 공로상에 가장 가까운 상이다. 수상 후 몇 시간도 지나지 않아 치머만은 토론토대학교에서 휴직하고 2026년 8월부터 OpenAI의 AI 안전 팀에 합류한다고 발표했다. 정년이 보장된 교수직은 유지하되 활발한 강의에서는 물러나는 형태였다.

그로부터 일주일 조금 지난 8월 2일경, OpenAI는 아직 공개하지 않은 모델 Astra의 결과를 발표했다. Astra는 수학과 이론 컴퓨터 과학 분야의 오랜 난제 10개를 해결했다. 그중 몇몇은 수십 년 동안 풀리지 않았고, 하나는 27년 동안 미해결 상태였다. 총 추론 비용은 OpenAI가 밝힌 바에 따르면 2,000달러 미만이었다. 회사는 이 작업과 함께 249페이지 분량의 원고를 공개했고, 기계 검증된 형식 증명을 GitHub에 올렸다.

누구도 이 두 사건이 같은 시기에 겹치도록 일정을 잡은 것은 아니다. 바로 그 점이 이 우연을 곱씹어볼 가치가 있게 만든다. 한 회사가 현직 수학자들의 관심을 끌 만한 수학을 만들어낼 수 있는 모델의 증거를 내놓았고, 같은 시기에 가장 뛰어난 훈장을 받은 살아 있는 수학자 중 한 명이 지금 자신의 경력으로 할 수 있는 가장 유용한 일은 바로 그런 종류의 시스템이 예상대로 작동하도록 돕는 것이라고 결정했다.

Astra가 실제로 한 일

여기서 구체적으로 짚을 필요가 있다. "AI가 어려운 수학을 풀었다"는 말은 이전에도 있었지만, 결과적으로 그렇게 어렵지 않았거나 완전히 풀리지 않은 경우가 있었기 때문이다. Astra의 목록은 이례적으로 구체적이다.

가장 주목할 만한 결과는 비소픽 군의 구성이다. 비소픽 군은 아무리 크더라도 어떤 유한 구조로도 근사할 수 없음이 증명된 추상 대수 구조다. 소픽 군은 대략 말해 유한 조각들로 임의로 가깝게 근사할 수 있을 만큼 충분히 잘 행동하는 군이다. 어떤 군이 이런 방식으로 근사될 수 없음을 증명하는 것은 다른 종류의 결과다. 단지 근사를 찾지 못한 것이 아니라 가능한 모든 유한 근사를 배제해야 하기 때문이다. 27년 동안 사람들이 시도했지만 아무도 그런 구성을 만들어내지 못했다.

Astra는 또한 고차원에서의 구 채우기 밀도 상한을 끌어올렸다. 이 문제는 1970년대 후반 이후 사실상 정체되어 있었는데, 콘과 엘키스가 세운 문턱에 더 가까워졌다. 또 알랭 콘의 폰 노이만 대수에 관한 강성 추측에 대한 반례를 만들어냈다. 이는 해당 분야에서 가장 영향력 있는 인물 중 한 명이 제시한 기존 추측을 확인한 것이 아니라 반증한 것이다. 에르하르트 부피 추측도 증명했다. 그리고 폴 에르되시의 잘 알려진 미해결 문제 목록에서 세 문제를 해결했는데, 여기에는 다색 램지 수에 관한 183번 문제가 포함된다.

이 모든 것을 얼마나 진지하게 받아들여야 할지 판단하는 데 가장 중요한 세부 사항은 이것이다. 증명들이 Lean 4로 형식화되었고, 공개된 저장소의 "sorry" 개수가 0이라는 점이다. Lean에서 "sorry"는 어떤 단계가 아직 실제로 증명되지 않았을 때 수학자들이 넣는 자리 표시자다. "믿어 달라, 이 부분은 맞다"는 표시인 셈이다. 0이라는 것은 10개 증명의 모든 논리적 단계가 기계적으로 검증되었다는 뜻이다. 그럴듯하게 읽히는 산문으로 작성만 된 것이 아니다. 이는 모델이 그럴듯하게 들리는 논증을 만들어내는 것보다 의미 있게 더 높은 기준이다. 이 글을 쓰는 시점에서 사전 공개본을 검토한 수학자들은 비공식적으로 긍정적인 반응을 보였다. 결과는 아직 학술지의 공식 동료 심사를 거치지 않았다.

필즈상 수상자가 하필 이것을 선택한 이유

치머만 자신의 연구는 문자 그대로 증명이다. 그의 경력 산출물은 바로 그 목적을 위해 만들어진 도구를 사용해 의심의 여지없이 참임이 밝혀진 명제들의 연속이다. AI 안전 연구는 하나의 학문 분야로서 점점 같은 기술 역량을 필요로 하는 방향으로 움직여 왔다. 시스템이 어떤 형식적으로 명시된 사양 안에서 작동하는지 검증하고, 기계가 생성한 도출이 실제로 성립하는지 확인하고, 모델의 출력이 무엇을 할 수 있고 할 수 없는지 보장될 수 있는지에 대해 엄밀하게 추론하는 일이다. 표면적으로는 뚜렷한 경력 전환처럼 보이지 않지만, 실제로는 그의 훈련과 충분히 밀접하게 맞물려 있어 전환이라고 부르기도 어렵다.

그는 그 이유에 대해 직접적으로 말해 왔다. "위험이 매우 높고, 걸린 것이 매우 크기 때문에 매우 높은 수준의 확신이 필요합니다." 그가 밝힌 관심사는 구체적으로 감독의 메커니즘이다. AI 에이전트가 시스템으로서 어떻게 행동하는지 이해하고, 복잡한 시스템이 예상된 범위 밖에서 작동하지 않을 것이라는 점을 어느 정도 엄밀하게 확립할 수 있는 증명을 도출하는 일이다.

한 가지 세부 사항은 이 선택을 쉽게 해석하는 관점과 어긋나기 때문에 짚어볼 가치가 있다. 치머만은 이전에 AI가 그럴듯하게 파국적 결과로 이어질 수 있는 경로의 범위를 체계적으로 정리한 논문을 쓴 적이 있다. 이는 막연한 불안감에서 안전 연구에 발을 들인 사람의 프로필도, 높은 보수를 받는 우회로를 택한 무비판적 지지자의 프로필도 아니다. 먼저 위험 평가를 하고 문제에서 멀어지기보다는 문제에 더 가까이 다가가서 일하기로 선택한 사람에 더 가깝게 읽힌다.

이 우연이 실제로 말해주는 것

이 두 이야기를 자신이 이미 차지하고 있는 AI 논쟁의 어느 쪽 진영을 뒷받침하는 증거로 읽고 싶은 유혹이 있다. "이 시스템들이 얼마나 유능해지고 있는지 보라"거나 "전문가들이 실제로 얼마나 걱정하는지 보라"는 식이다. 두 해석 모두 실제로 주목할 만한 것을 놓친다. 같은 주에 두 신호가 모두 나왔고, 그 신호들은 AI 역량이 지금 실제로 어디에 서 있는지 가장 깊이 들여다볼 수 있는 위치에 있는 사람들에게서 나왔다는 점이다. 이것은 낙관론자와 비관론자가 서로를 향해 소리치는 상황이 아니다. 기술을 가장 잘 이해하는 동일한 집단이 역량 향상과 안전 연구를 대립하는 진영이 아니라 병행하고 동시에 다뤄야 할 우선순위로 취급하고 있는 것이다.

형식 검증이라는 세부 사항은 처음 보이는 것보다 두 갈래를 더 문자 그대로 연결해 준다. Astra의 수학 결과가 무게를 갖는 이유는 기계로 검사할 수 있기 때문이다. 가치는 증명이 맞는 것처럼 들린다는 데 있지 않고, 검증기가 각 단계가 성립함을 확인했다는 데 있다. 치머만이 밝힌 AI 안전에 대한 관심은 같은 수준의 엄밀성을 다른 질문에 적용하는 것을 중심으로 구성된다. "이 증명이 성립하는가"가 아니라 "이 시스템이 우리가 기대하는 방식으로 행동하는가"라는 질문이다. 한쪽은 수학에서 증명 가능한 것이 무엇인지 확장하며 바깥으로 밀고 나간다. 다른 쪽은 AI 시스템의 행동에 대해 증명 가능한 것을 "전문가가 출력을 읽어봤고 괜찮아 보였다"보다 더 견고하게 만들기 위해 안쪽으로 파고든다. 목표는 다르지만 근본적인 방법은 같다.

업계 관찰자들은 이를 선도적인 AI 연구소들이 이제 둘 중 하나를 선택하기보다 두 가지 구축 작업을 병행하고 있다는 증거로 읽을 가능성이 높다. 하나는 모델 역량이 여전히 빠르게 상승하고 있음을 입증하는 데 목표를 둔다. 이는 부수적으로 말하면 상업적·자금 조달 서사의 핵심이기도 하다. 다른 하나는 그 역량과 함께 오는 것을 엄밀하게 검토할 수 있는 사람들을 영입하는 데 목표를 둔다. 그렇게 보면 같은 시기에 역량 이정표를 발표하고 필즈상 수상자를 안전 연구에 고용하는 것은 서로 충돌하는 두 가지 홍보 전략이 아니다. 이 분야가 어디로 향하고 있는지에 대한 동일한 근본적 계산이 두 가지 방식으로 표현된 것이다.

닫힌 질문이 아니라 열린 질문

이 모든 것 아래에는 어느 발표도 그 자체로는 답하지 못하는 더 어려운 질문이 깔려 있다. 모델이 훈련된 수학자조차 한 줄 한 줄 기계로 확인해야 할 만큼 복잡한 형태로 정리를 증명할 때, 그것은 AI 시스템 자체가 안전한지 평가하는 방식에 대해 무엇을 시사하는가? 그 평가가 같은 기준, 즉 형식적이고 기계적으로 검사 가능한 주장으로 옮겨가야 하는 것은 아닌가? 영역 전문가들이 출력을 읽고 합리적으로 보인다는 판단을 내리는 데 의존하는 대신 말이다.

치머만을 포함해 아직 아무도 이에 답하지 못했다. 하지만 바로 그런 종류의 엄밀성을 위해 만들어진 수학자가 자기 분야에서 최고의 인정을 받는 정점에서 그 문제를 연구하러 가기로 선택했다는 사실은, 지금까지 이 순간이 만들어낸 답에 가장 가까운 것일지도 모른다.