AI가 80년 수학 난제를 풀었다: OpenAI 모델의 에르되시 추측 반증

핵심 요약

2026년 5월 20일, OpenAI는 자사의 범용 추론 모델이 1946년 이래 80년간 미해결 상태였던 수학 난제를 자율적으로 반증했다고 공식 발표했다. 이는 AI가 특정 수학 분야의 핵심 열린 문제를 최초로 자율 해결한 사례로, 수학자 커뮤니티에서 즉각적인 반향을 일으켰다.

에르되시 단위거리 추측이란?

헝가리의 수학 천재 폴 에르되시는 1946년 이런 질문을 제기했다. 평면 위에 n개의 점을 배치할 때, 서로 정확히 거리 1만큼 떨어진 점 쌍(단위거리 쌍)의 최대 개수는 얼마인가? 에르되시를 비롯한 수학자들은 정사각형 격자 배열이 사실상 최적에 가깝다고 수십 년간 믿어왔다. 이 추측이 80년간 수학계의 표준 가정으로 자리 잡아 왔다.

OpenAI의 모델은 이 추측이 틀렸음을 수학적으로 증명했다. 새로운 구성법을 발견해 n^(1+δ) 단위거리 쌍을 달성했으며, 여기서 δ값은 프린스턴 수학자 윌 사윈의 후속 정제 작업을 통해 0.014로 확정되었다.

증명의 수학적 기법

이번 증명에서 모델이 적용한 수학 기법은 전문가들을 놀라게 했다. 단순히 이전 연구를 조합한 것이 아니라, 추상 대수학과 이산기하학 사이의 새로운 연결고리를 발견했다.

핵심 수학 도구:

• 무한 유체 탑 이론(Infinite class field towers): 대수적 정수론의 고급 도구로, 기존 가우스 정수(Gaussian integers)를 뛰어넘는 보다 풍부한 대수적 수체로의 일반화
• 골로드-샤파레비치 이론(Golod-Shafarevich theory): 더 많은 대칭성을 갖는 기하학적 배열을 생성하는 데 활용
• 대수적 수체 구성: 단위거리 쌍을 기존보다 효율적으로 많이 만드는 새로운 점 배열 패밀리 발견

필즈상 수상자 팀 고워스는 "올바른 답이 n^(1+o(1))이 아니라는 사실 자체가 놀랍다"고 언급하며 이번 결과를 "AI 수학의 이정표"라고 평가했다.

검증 과정과 수학자들의 반응

발표의 신뢰성을 높이는 중요한 요소는 독립적인 검증 절차다. 네 명의 著명 수학자가 증명을 검토하고 동반 논문을 작성했다.

검증 참여 수학자:

이번 발표는 OpenAI의 전직 VP 케빈 웨일이 2024년에 에르되시 문제 해결을 잘못 주장했다가 철회한 사례와 대조적이다. 당시 결과를 비판했던 토마스 블룸도 이번 발표에는 지지 의사를 밝혔다.

AI 수학 연구의 의미

OpenAI는 이 증명이 수학 특화 모델이 아니라, 범용 추론 시스템에서 나왔다는 점을 강조했다. 특정 문제를 풀도록 파인튜닝되거나 증명 탐색을 위한 별도 스캐폴딩이 적용된 것이 아니라는 설명이다.

이는 현재 AI 추론 능력이 도달한 수준을 단적으로 보여준다. 전문 연구 도구가 아닌 범용 모델이 수십 년간 인간 수학자가 해결하지 못한 문제를 자율적으로 풀었다는 사실은, AI가 단순한 문제 풀이기를 넘어 실질적인 과학적 발견 도구로 기능할 수 있음을 시사한다.

향후 전망

이번 성과가 가져올 변화는 수학 분야에 그치지 않을 것으로 보인다. 추상 대수학과 이산기하학의 새로운 연결은 생물학, 물리학, 공학 분야의 후속 연구로 이어질 수 있다. 또한 AI가 자율적으로 열린 수학 문제를 해결할 수 있다는 전례는 앞으로 더 많은 미해결 수학 문제에 AI를 적극 활용하는 움직임을 촉진할 것으로 예상된다.

수학자들 사이에서는 밀레니엄 문제나 콜라츠 추측 같은 더 어려운 문제를 AI가 도전할 수 있는지에 대한 논의가 시작되고 있다.

결론

이번 OpenAI 모델의 에르되시 추측 반증은 AI 역사에 새로운 장을 열었다. 특정 수학 분야의 핵심 미해결 문제를 범용 AI가 자율적으로 해결한 최초 사례로, 수학과 AI 연구 모두에 중요한 전환점을 표시한다. 수학적 증명의 엄밀성이 요구되는 분야에서 AI 활용 가능성을 입증했으며, 향후 AI와 수학자의 협력 연구 패러다임에 큰 영향을 미칠 것으로 전망된다.