AI가 수학 증명을 쓰는 시대, 검증과 책임은 누구 몫일까

핵심 요약

• ‘OpenAI 수학 논문 3편 철회’라는 주장은 각 논문의 철회 공지와 사유를 확인한 뒤 판단해야 합니다.
• AI가 제시한 증명도 전제부터 결론까지 논리가 빠짐없이 이어지는지 검토해야 합니다.
• 형식 검증으로 증명을 엄밀하게 점검할 수 있지만, 검증할 명제를 정확히 옮겼는지도 살펴야 합니다.
• 연구 결과를 발표한 사람과 기관은 AI가 어디까지 기여했는지 설명하고 오류를 바로잡을 책임을 져야 합니다.

AI가 내놓은 수학 풀이를 어디까지 믿어도 될까요? ‘OpenAI 수학 논문 3편 철회’라는 주장을 접했을 때도 먼저 철회 사유와 AI가 맡았던 역할을 따져봐야 합니다. 그래야 모델의 능력은 물론, 연구자가 검증 책임을 다했는지도 제대로 평가할 수 있습니다.

‘3편 철회’라는 말에 빠져 있는 정보

이 주장이 사실인지 판단하려면 어떤 논문을 가리키는지, 철회 공지에는 무엇이라고 적혀 있는지 확인해야 합니다. ‘OpenAI의 논문’이라는 표현도 짚어볼 필요가 있습니다. OpenAI 소속 연구자가 쓴 논문과 외부 연구자가 OpenAI 모델을 활용해 쓴 논문은 연구한 주체부터 다릅니다.

왜 철회했는지도 봐야 합니다. 핵심 증명에 오류가 있다는 설명과 원고를 수정하거나 통합한다는 설명은 뜻이 다릅니다. 철회라는 단어만 보고 어떤 문제가 있었는지 단정할 수는 없습니다.

AI가 연구에서 맡은 역할도 따져봐야 합니다. 아이디어를 제안하거나 계산을 도운 경우와 핵심 증명을 작성한 경우에는 검토할 부분이 달라집니다. AI를 활용한 논문이 철회됐다고 해도, 그 사실만으로 AI 때문에 오류가 생겼다고 확정할 수는 없습니다.

철회 여부, 철회 사유, AI의 역할은 각각 확인해야 할 사실입니다. 이를 구분해서 살펴야 개별 연구에서 생긴 문제를 두고 AI 수학 전체에 대해 성급하게 결론 내리지 않을 수 있습니다.

증명은 한 단계의 오류로 무너질 수 있습니다

수학 증명에서는 앞 단계가 참이면 뒷 단계도 반드시 참이어야 합니다. 전문 용어와 수식이 자연스럽게 이어지더라도, 중간에 논리가 끊기면 그 증명으로는 결론을 뒷받침할 수 없습니다.

간단한 예를 들어보겠습니다. a = b라고 놓고 계산하다가 양변을 a - b로 나눴다고 합시다. 이때 a - b는 0입니다. 허용되지 않는 나눗셈을 한 순간부터, 이후 계산이 아무리 매끄러워도 증명은 성립하지 않습니다.

실제 연구에서는 이런 오류를 알아채기가 더 어려울 수 있습니다. 인용한 정리를 쓰는 데 필요한 조건을 빠뜨리기도 하고, 일부 사례에서만 확인한 성질을 모든 경우에 적용하기도 합니다.

AI가 제시한 풀이도 같은 기준으로 검토해야 합니다. 몇 가지 숫자를 넣어 답이 맞는지 확인하는 일은 도움이 됩니다. 다만 무한히 많은 경우를 다루는 명제라면, 몇 번의 실험만으로 모든 경우에 성립한다고 증명할 수는 없습니다.

검토할 때는 “설명이 그럴듯한가”만 봐서는 부족합니다. 각 단계에서 어떤 전제를 깔고 어떤 정리를 썼는지, 그것으로 다음 단계가 성립하는지 하나씩 짚을 수 있어야 합니다.

형식 검증은 무엇을 보장할까요

증명을 점검하는 방법 중 하나가 형식 검증입니다. 명제와 증명을 컴퓨터가 처리할 수 있는 엄밀한 언어로 적고, 정해진 논리 규칙에 비춰 각 단계가 성립하는지 검사합니다.

앞의 예에서는 나눗셈에 필요한 조건을 확인해야 합니다. 분모가 0이 아니라는 근거를 제시하지 못하면 그 단계가 옳다고 할 수 없습니다. 사람이 익숙한 표현을 읽다가 그냥 넘어갈 법한 부분도 명확히 적어야 하는 셈입니다.

다만 검증을 통과했다고 해서 모든 것을 보장받는 것은 아닙니다. 컴퓨터는 입력된 정의와 가정을 바탕으로 입력된 명제를 검사합니다. 그 명제가 연구자가 원래 풀려던 문제를 정확히 표현하는지는 따로 살펴야 합니다.

예를 들어 “모든 정수에서 성립한다”는 문제를 “양의 정수에서 성립한다”로 옮겼다고 합시다. 양의 정수에 대한 증명이 정확하더라도, 그것으로 원래 문제 전체를 해결했다고 할 수는 없습니다.

형식 검증 결과를 볼 때는 무엇을 증명했는지도 확인해야 하는 이유입니다. 검증을 통과했는지와 더불어, 검증한 명제가 원래 문제를 정확히 옮긴 것인지까지 살펴야 그 결과를 신뢰할 수 있습니다.

오류를 설명할 책임은 발표 주체에 있습니다

AI가 연구에 참여할수록 어떤 역할을 맡았는지 구체적으로 밝혀야 합니다. “AI를 사용했다”는 한 문장만으로는 독자가 연구 과정을 평가하기 어렵습니다.

아이디어를 얻거나 계산을 확인하는 데 썼는지, 증명 초안을 받았는지 설명해야 합니다. 사람이 핵심 증명을 어떻게 검토했는지도 밝혀야 합니다. 형식 검증을 활용했다면 독자가 검증한 명제와 그에 필요한 가정을 확인할 수 있어야 합니다.

오류를 발견한 뒤에도 구체적인 설명이 필요합니다. 어느 단계가 잘못됐고 그 때문에 주요 결론이 어떻게 달라지는지 밝혀야 합니다. 수정으로 해결할 수 있는지도 설명해야 합니다. 연구를 발표한 연구자와 기관이 이를 밝혀야 독자가 결과를 다시 판단할 수 있습니다.

모델 개발사 역시 설명해야 할 부분이 있습니다. 자사 모델의 수학 능력을 홍보하려면 어떤 조건에서 성과를 냈고 사람이 어디까지 개입했는지 구체적으로 밝혀야 합니다. 사람이 수정하고 검증한 결과를 소개한다면 그 사람이 기여한 부분도 함께 알려야 합니다.

AI 수학의 성과를 평가할 때는 해결했다는 문제 수와 함께, 다른 사람이 증명을 확인할 수 있는 근거도 봐야 합니다. “AI가 난제를 풀었다”는 발표를 접하면 어떤 문제를 어떤 조건에서 증명했는지 확인해야 합니다. 누가 검토했는지도 빼놓을 수 없습니다.