AI가 80년 묵은 수학 난제를 '반증'했다 — OpenAI가 에르되시 정설을 뒤집은 날

수학자들이 80년 동안 옳다고 믿어온 명제가 있습니다. 그런데 그 정설을 뒤집은 건 또 다른 수학자가 아니라 AI였습니다. OpenAI가 5월 20일 공개한 결과는 단순한 “AI가 수학 문제를 풀었다” 수준이 아닙니다. 수학계의 정설을 반증한 첫 사례에 가깝습니다.

풀린 게 아니라 ‘뒤집힌’ 문제

이번 주인공은 이산기하학(discrete geometry) 분야의 에르되시(Erdős) 계열 추측 중 하나입니다. 에르되시는 20세기 가장 많은 문제를 던진 헝가리 수학자인데요, 그가 남긴 미해결 문제만 수백 개에 달합니다. 이번에 무너진 추측은 1940년대 후반부터 학계에서 “아마도 참일 것"이라고 여겨져 온 명제였습니다.

핵심은 “풀었다"가 아니라 “반증했다"라는 데 있습니다. 수학에서 추측을 증명하는 것과 반증하는 것은 완전히 다른 게임입니다. 반증은 단 하나의 반례만 찾으면 끝나지만, 그 반례를 찾는 일이 80년간 아무도 못한 거죠. OpenAI 모델은 기존 수학자들이 탐색하지 않았던 구조를 뒤져 반례를 구성해냈습니다.

“푸는 AI"에서 “발견하는 AI"로

지금까지 AI의 수학 활용은 크게 두 갈래였습니다. 하나는 IMO(국제수학올림피아드) 문제를 푸는 식의 정답이 있는 문제 해결, 또 하나는 증명 보조 도구로 쓰는 정도였습니다. 둘 다 인간이 만든 문제를 인간이 정해둔 방식으로 푸는 일이었죠.

이번 사례는 결이 다릅니다. AI가 직접 탐색 공간을 설계하고, 인간이 미처 보지 못한 영역에서 반례를 구성했습니다. OpenAI 공식 영상 “The Erdős Breakthrough"는 공개 하루 만에 4천 회 이상 조회되며 440개 좋아요를 받았는데요, 수학·AI 양쪽 커뮤니티에서 동시에 주목받는 흔치 않은 풍경입니다.

왜 이산기하학이었을까

이산기하학은 점, 선, 다각형 같은 이산적인 객체들의 배치와 성질을 다루는 분야입니다. 직관적으로 그림이 그려지지만, 막상 일반적인 증명을 하려면 경우의 수가 폭발합니다. 인간 수학자에게는 “직관은 되는데 손으로 다 따져볼 수가 없는” 영역이죠.

이게 바로 현재 AI의 강점과 맞물리는 지점입니다. 거대한 조합 공간에서 패턴을 잡아내고, 인간의 직관이 닿지 않는 구석을 뒤지는 일. 이산기하학은 어쩌면 AI가 인간을 가장 먼저 추월할 수학 분야일 수 있습니다.

수학자들의 일자리는?

당연히 따라오는 질문입니다. 결론부터 말하면, 수학자가 사라지는 일은 당분간 없을 겁니다. 반례 하나가 발견됐다고 해도, 그 반례가 왜 작동하는지 해석하고 일반화하는 일은 여전히 인간의 몫이거든요. 오히려 이번 사건이 던지는 메시지는 다릅니다.

수학적 발견의 속도가 인간 한 명의 평생에서 AI 모델 한 번의 추론으로 압축될 수 있다는 점. 80년이 단 며칠로 줄어든 셈입니다. 미래의 수학자는 AI가 던지는 반례를 해석하고, 그로부터 새로운 이론을 짜는 사람이 될 가능성이 큽니다.

마무리하며

“AI가 수학을 한다"는 말은 이제 비유가 아닙니다. 정설을 뒤집고, 새로운 사실을 발견하는 도구가 됐습니다. 다음 차례는 어떤 추측일까요? 그리고 더 중요한 질문 — AI가 발견한 수학적 진실을 인간이 충분히 이해할 수 있을까요? 80년 묵은 추측이 무너진 자리에서, 다음 80년의 수학이 시작되고 있습니다.