AI가 반세기 난제를 풀었다? '이중 커버 추측' 증명, 수학계가 웃지 못하는 이유

AI가 수학 난제를 풀었다는 뉴스, 요즘 부쩍 자주 보이시죠. 이번엔 강도가 다릅니다. 무려 반세기 가까이 버텨온 이중 커버 추측(Cycle Double Cover Conjecture)을 GPT-5.6 Sol Ultra가 증명했다는 소식입니다. 그런데 수학계 분위기가 묘합니다. 박수보다 “잠깐만요"가 먼저 나오고 있거든요. 오늘은 이 이야기를 차분히 풀어보겠습니다.

먼저 솔직하게 말씀드릴 게 있습니다. 이 주제는 아직 커뮤니티나 학계에서 검증된 논의가 충분히 쌓이지 않은 상태입니다. 그래서 오늘 글은 “AI가 증명했다"는 팩트 확인보다는, 이런 주장이 나왔을 때 우리가 어떻게 바라봐야 하는가에 초점을 맞추겠습니다.

이중 커버 추측이 도대체 뭔가요

이름부터 낯설죠. 최대한 쉽게 설명드리겠습니다.

점들을 선으로 이어놓은 그림을 ‘그래프’라고 부릅니다. 지하철 노선도를 떠올리시면 됩니다. 역이 점이고, 노선이 선입니다. 이중 커버 추측은 이렇게 묻습니다. “적당한 조건을 만족하는 그래프라면, 모든 선을 정확히 두 번씩 지나가는 순환 경로들의 묶음을 항상 만들 수 있을까?”

말은 간단합니다. 그런데 1970년대에 제기된 이후로 지금까지 아무도 완전히 증명하지 못했습니다. 수많은 특수한 경우는 풀렸지만, “모든 경우에 대해"는 여전히 열려 있었습니다. 그래서 그래프 이론에서 손꼽히는 난제로 남아 있었던 겁니다.

AI 증명이 왜 논란이 되나

핵심은 검증 가능성입니다.

수학에서 증명은 결과보다 과정이 중요합니다. “답이 맞다"가 아니라 “왜 맞는지"를 다른 사람이 한 줄 한 줄 따라갈 수 있어야 합니다. 그런데 AI가 내놓는 증명은 종종 두 가지 문제를 안고 있습니다.

첫째, 너무 깁니다. 수백 페이지에 달하는 논리 전개를 사람이 일일이 확인하기가 현실적으로 어렵습니다. 둘째, AI 특유의 그럴듯한 오류입니다. 문장은 매끄럽고 논리도 흐르는 것처럼 보이는데, 중간에 슬쩍 비약이 끼어 있는 경우가 있습니다. 이걸 잡아내려면 결국 사람 수학자가 달라붙어야 합니다.

과거에도 비슷한 일이 있었습니다. AI가 내놓은 증명이 처음엔 맞는 것처럼 보였다가, 특정 단계에서 “이 부분은 증명 없이 참이라고 가정했다"는 사실이 뒤늦게 드러난 사례들이 있었죠. 그래서 수학자들이 이번에도 선뜻 축하하지 못하는 겁니다.

검증의 열쇠, 형식 증명

그럼 방법이 없을까요. 있습니다. 형식 증명(formal proof)입니다.

Lean이나 Coq 같은 도구를 아시나요. 증명의 모든 단계를 컴퓨터가 기계적으로 검사할 수 있는 언어로 옮겨 적는 방식입니다. 사람이 “여기까진 자명하니까 넘어가자"라고 얼버무릴 수 없습니다. 한 단계라도 논리에 구멍이 있으면 컴퓨터가 그냥 거부합니다.

만약 GPT-5.6 Sol Ultra의 증명이 Lean 같은 시스템에서 통과한다면, 이야기는 완전히 달라집니다. “AI가 주장했다"가 아니라 “기계가 검증했다"가 되니까요. 반대로 형식화가 안 된 자연어 증명이라면, 아직은 후보일 뿐 확정이 아닙니다. 이 차이가 이번 논란의 진짜 갈림길입니다.

그래서, 믿어도 될까요

현재로서는 “지켜봐야 한다"가 정직한 답입니다.

AI가 인간이 못 푼 난제의 실마리를 제시하는 것 자체는 놀랍고 의미 있는 일입니다. 실제로 AI는 방대한 경우의 수를 탐색하거나, 사람이 놓친 접근법을 제안하는 데 강력한 도구입니다. 하지만 “제시"와 “증명 완료"는 다른 층위의 이야기입니다. 수학계가 이 증명을 정식으로 받아들이려면, 형식 검증을 통과하거나 다수의 전문가가 독립적으로 검토하는 과정이 반드시 뒤따라야 합니다.

정리하면 이렇습니다. AI가 반세기 난제의 문을 두드린 건 분명한 사건입니다. 다만 그 문이 정말 열렸는지는, AI가 아니라 차가운 검증 절차가 판단할 몫입니다. 여러분은 어떻게 생각하시나요. AI가 내놓은 증명을, 우리는 언젠가 사람의 증명과 똑같이 신뢰하게 될까요. 아니면 ‘기계가 검증한 것만 믿는’ 새로운 기준이 자리 잡게 될까요.