평면에 점 n개를 찍었을 때, 서로 거리가 정확히 1인 점의 쌍은 최대 몇 개까지 나올 수 있을까. 헝가리 수학자 폴 에르되시가 1946년에 던진 이 질문은 80년 동안 수학자들이 “답의 모양은 대체로 안다”고 믿어 온 문제였다. 2026년 5월, 그 믿음을 깬 반례를 내놓은 쪽은 사람이 아니라 OpenAI의 내부 추론 모델이었다.
무슨 일이 있었나
OpenAI는 2026년 5월 20일, 수학 전용이 아닌 범용 추론 모델이 에르되시의 단위 거리 추측(unit distance conjecture)을 반증하는 증명을 스스로 만들어 냈다고 발표했다. 같은 날 노가 알론, 토머스 블룸, 티머시 가워스, 윌 소인, 멜러니 우드 등 수학자 9명이 증명을 사람이 읽기 쉽게 정리한 논문을 arXiv에 올렸다. 논문 초록은 이 결과를 “OpenAI가 생성한 반례를 사람이 검증하고 정리한 버전”이라고 소개한다.
| 항목 | 내용 |
|---|---|
| 문제 | 평면 위 점 n개 사이에서 거리 1인 쌍의 최대 개수 (에르되시, 1946) |
| 기존 믿음 | 정사각 격자 같은 구성이 사실상 최선이고, 개수는 n보다 아주 조금만 빠르게 늘어난다 |
| 이번 결과 | 격자보다 나은 새로운 구성의 족(family)을 찾아 추측을 반증 |
| 발표 | 2026년 5월 20일, OpenAI 발표와 수학자 9명의 정리 논문 |
| 검증 | 가워스(필즈상), 알론, 블룸 등이 공저한 정리 논문, 외부 수학자 코멘트 공개 |
TechCrunch 보도에 따르면 OpenAI는 이를 “AI가 한 분야의 핵심 미해결 문제를 자율적으로 푼 첫 사례”라고 표현했다.
왜 이번에는 “진짜”라고 불리나
이 발표가 특히 주목받은 데는 반년 전의 소동이 있다. 2025년 10월 OpenAI의 한 임원은 GPT-5가 미해결 에르되시 문제 10개를 풀었다고 소셜 미디어에 올렸다. 확인해 보니 GPT-5는 이미 논문에 나와 있던 풀이를 찾아낸 것이었다. 에르되시 문제 사이트를 운영하는 블룸은 이를 “극적인 왜곡”이라고 불렀고, 게시물은 삭제됐다.
이번에는 순서가 달랐다.
- 모델이 만든 증명을 외부 수학자들이 먼저 읽고 검증했다.
- 그 내용을 사람이 이해할 수 있는 형태로 다시 써서 논문으로 공개했다.
- 발표와 함께 외부 수학자들의 평가를 같이 내놓았다.
“AI가 풀었다”는 주장이 아니라, 사람이 확인한 결과물이 먼저 나왔다는 점이 반년 전과 다른 지점으로 평가된다.
왜 이런 일이 생겼나
정리 논문은 증명의 핵심 아이디어가 “돌이켜 보면” 엘런버그와 벤카테시, 골로드와 샤파레비치 등 정수론 쪽 연구에서 온 것이라고 적었다. 평면 기하 문제를 풀기 위해 전혀 다른 분야의 도구를 끌어온 셈이다. 사람 연구자라면 평생 한 분야를 파고들기 때문에 이런 연결을 떠올리기 어렵다. 반면 모델은 여러 분야의 문헌을 동시에 학습했기 때문에 먼 분야의 도구를 연결하는 데 강점을 보인다는 해석이 나온다.
에르되시 문제가 유독 AI에 잘 풀리는 이유도 있다. Quanta Magazine은 에르되시 문제 상당수가 정수론, 조합론, 그래프 이론에 몰려 있어 언어 모델이 다루기 쉽고, 난이도가 문제마다 크게 달라 실력이 들쭉날쭉한 기술에도 맞는다고 분석했다. 이런 흐름은 앞서 정리한 AI가 푸는 수학 난제 글에서 다룬 “정리하는 AI에서 발견하는 AI로”의 구체적인 사례로 볼 수 있다.
이어진 결과와 수학계의 반응
단위 거리 결과 이후 비슷한 소식이 이어졌다.
- 에르되시 문제 728번. 2026년 1월 아마추어 연구자 두 명이 GPT-5.2 Pro로 풀이를 찾고, 증명 검증 도구로 논리를 확인했다.
- DeepMind의 대량 탐색. 2026년 5월 DeepMind 연구진은 자사 에이전트가 미해결 문제 353개 중 9개를 풀었다고 보고했다. 문제당 비용은 수백 달러 수준이었다.
- OpenAI의 후속 발표. 2026년 8월 1일 OpenAI는 미공개 모델이 에르되시 문제 3개를 더 포함해 수학 성과 10건을 냈다고 밝혔다.
반응은 엇갈린다. 정리 논문 공저자인 알론은 AI가 문제를 풀기 시작한 뒤로 “더는 의미가 없다”며 에르되시 문제 풀이를 그만뒀다고 Quanta에 말했다. 블룸은 수학자가 아닌 사람들이 아무도 읽지 않은 100~200쪽짜리 AI 생성 논문을 올리는 현상을 경계했다.
이번 사건의 핵심은 “AI가 풀었다”가 아니라 “사람이 검증할 수 있는 형태로 나왔다”는 데 있다. 수학에서 병목은 이제 발견보다 검증 쪽으로 옮겨 가고 있다.
확인된 것과 아직 모르는 것
- 확인된 것. 격자보다 나은 구성이 존재하며, 이로써 에르되시가 믿었던 형태의 추측은 틀렸다. 9명의 수학자가 이를 정리해 공개했다.
- 개선 폭은 작다. 보도에 따르면 개선은 지수로 0.014 정도다. 점이 늘어날 때 거리 1인 쌍이 늘어나는 속도가 아주 조금 빨라진다는 뜻이다.
- 최적값은 여전히 열려 있다. 이번 결과는 “격자가 최선은 아니다”를 보였을 뿐, 진짜 최댓값이 얼마인지는 밝히지 않았다. 일부 보도의 “80년 난제 해결” 표현은 이 점에서 과장이다.
- 증명 분량은 확인되지 않았다. “125쪽 증명”이라는 숫자가 돌고 있지만 1차 자료에서는 확인하지 못했다.
정리
AI가 수학의 오래된 추측을 뒤집은 사례가 처음으로 전문 수학자들의 검증과 함께 나왔다. 반년 전 과장 소동과 달리 이번에는 증명이 먼저, 발표가 나중이었다. 개선 폭은 작고 진짜 답은 아직 열려 있지만, 먼 분야의 도구를 연결해 반례를 찾아냈다는 점에서 AI가 연구 현장에서 어떤 역할을 맡게 될지 보여 준 사건으로 남을 것으로 보인다.