AI가 수학자를 이긴 게 아니라, 그냥 '기억력'이 좋았던 거라면?

AI가 수학 올림피아드 문제를 풀고 미해결 정리에까지 손을 대면서 “이제 AI가 수학자보다 똑똑한가"라는 질문이 따라붙었는데요. 최근 이 질문 자체를 뒤집는 주장이 나왔습니다. 연구자 다비데 피페르(Davide Piffer)는 AI가 수학자를 추론으로 이긴 게 아니라 그냥 인간보다 작업기억이 훨씬 클 뿐이라고 말합니다. 뻔한 트집처럼 들리는데 따라가 보면 꽤 불편한 질문에 닿습니다.

인간의 작업기억은 생각보다 초라합니다

먼저 숫자부터 보겠습니다. 인지심리학에서 인간의 작업기억 용량을 이야기할 때 가장 자주 인용되는 수치가 4±1입니다. 조지 밀러의 유명한 “매직 넘버 7"은 이후 연구에서 계속 하향 조정됐고 넬슨 코완의 연구 이후로는 순수한 작업기억 슬롯이 네 개 남짓이라는 쪽으로 정리됐습니다.

네 개입니다. 지금 머릿속에서 동시에 굴릴 수 있는 정보 덩어리가 네 개라는 뜻인데요. 물론 인간은 청킹(chunking)으로 이걸 우회합니다. 체스 그랜드마스터가 판 전체를 한눈에 기억하는 건 말 32개를 하나씩 외워서가 아니라 익숙한 배치 패턴 몇 개로 묶어버리기 때문입니다. 수학자도 마찬가지입니다. 초심자에게는 열 줄짜리 증명 단계가 전문가에게는 한 덩어리입니다.

여기서 피페르의 주장이 시작됩니다. 수학의 난이도가 결국 동시에 붙들고 있어야 하는 조건의 개수와 상당 부분 겹친다면 어떨까요.

LLM의 컨텍스트 윈도우는 자릿수가 다릅니다

반대편 숫자를 보겠습니다. 요즘 프론티어 모델의 컨텍스트 윈도우는 100만 토큰대에 들어섰습니다. 책 여러 권 분량입니다. 게다가 그 안의 모든 토큰이 매 스텝마다 어텐션으로 서로를 참조합니다. 인간처럼 “아까 3번 조건이 뭐였더라” 하며 앞장을 다시 넘길 일이 없습니다.

물론 컨텍스트 윈도우와 작업기억이 같으냐는 반론은 정당합니다. 컨텍스트는 수동적인 저장소에 가깝고 인간의 작업기억은 능동적으로 조작하는 공간이니까요. 실제로 긴 컨텍스트에서 중간 부분 정보를 놓치는 현상은 잘 알려져 있고, 컨텍스트가 길어질수록 성능이 떨어지는 벤치마크도 많습니다. 다만 그 열화를 감안해도 유효 용량이 인간의 네 개와는 자릿수부터 다르다는 게 요점입니다.

축구로 비유하면 이렇습니다. 상대 선수가 나보다 발이 빠른 게 아니라 애초에 운동장에 열한 명이 아니라 백 명을 데리고 나온 겁니다. 경기는 지지만 그게 개인기의 차이는 아닙니다.

그래서 “추론"은 어디까지가 진짜인가

이 논쟁이 흥미로운 이유는 AI 회의론과 AI 낙관론 양쪽을 동시에 찌르기 때문입니다.

회의론자에게는 이렇게 묻습니다. AI가 큰 작업기억으로 문제를 푼다고 해서 그게 왜 지능이 아닌가요. 인간의 지능도 결국 신경계 하드웨어의 스펙에 얹혀 있습니다. 시냅스 수와 뇌 용적이 인지 능력과 무관하다고 말하는 사람은 없습니다. 그렇다면 용량이 크다는 이유로 AI의 성취를 깎아내리는 건 이중잣대입니다.

낙관론자에게는 이렇게 묻습니다. AI가 지금 잘하는 것이 탐색 공간을 넓게 훑는 능력에 몰려 있다면, 수학에서 정말 중요한 것, 그러니까 좋은 문제를 고르는 안목이나 완전히 새로운 개념을 만들어내는 도약은 아직 검증된 적이 없는 것 아닌가요. 무차별 대입을 아무리 정교하게 해도 갈루아 이론이 나오지는 않습니다.

제 생각: 질문을 잘못 잡고 있습니다

솔직히 “AI가 수학자를 이겼나"라는 프레임 자체가 별로 생산적이지 않습니다. 계산기가 나왔을 때 우리는 “계산기가 산수 천재를 이겼다"고 말하지 않았습니다. 도구의 성격이 달라졌다고 말했을 뿐입니다.

지금 벌어지는 일도 비슷하게 볼 수 있습니다. 인간 수학자에게 부족한 자원이 작업기억이었다면, AI는 정확히 그 결핍을 메우는 도구입니다. 실제로 테렌스 타오를 비롯한 수학자들이 AI를 쓰는 방식도 “대신 생각해줘"가 아니라 “내가 놓친 경우를 훑어줘"에 가깝습니다. 사고를 대체하는 게 아니라 넓히는 겁니다.

다만 피페르의 주장에서 진짜 새겨들을 부분은 따로 있습니다. 벤치마크 점수가 오르는 것과 추론 능력이 오르는 것은 다른 사건일 수 있다는 지적입니다. 컨텍스트를 키우는 것만으로 점수가 오른다면 우리는 지능이 아니라 메모리를 사고 있는 셈입니다. 그리고 메모리는 스케일링으로 해결되지만 개념적 도약은 아닐지도 모릅니다.

참고로, 이 논의는 아직 뜨겁진 않습니다

미리 말씀드리면 이번 주제는 커뮤니티에서 아직 크게 번진 논쟁은 아닙니다. 최근 30일 기준으로 레딧에서 유의미한 규모의 스레드는 찾지 못했습니다. 인지과학 쪽 주장과 AI 벤치마크 논쟁이 만나는 지점이라 관심층이 좁게 갈리는 탓으로 보입니다.

그래서 이 글은 “지금 난리 난 이슈"가 아니라 “앞으로 계속 반복될 질문의 초기 형태"로 읽으시는 게 맞습니다. AI가 수학 난제를 하나씩 풀어낼 때마다 똑같은 논쟁이 다시 올라올 겁니다. 그때마다 “이번엔 용량인가 추론인가"를 구분해서 보는 눈이 있으면 훨씬 덜 휘둘립니다.

마무리

작업기억이 네 개인 존재가 만든 수학과 백만 토큰을 한꺼번에 붙드는 존재가 만들 수학은 아마 다른 모양일 겁니다. 어느 쪽이 우월한지 따지기보다, 제약이 다르면 아름다움도 다른 모양으로 나온다고 보는 편이 정확할 겁니다. 여러분은 어떻게 보시나요. 지능이란 결국 용량의 문제일까요, 아니면 용량으로 환원되지 않는 무언가가 남아 있을까요.