벤치마크는 계속 오르는데, 학계는 왜 'LLM은 점프하지 못한다'고 말할까

요즘 모델 발표를 보면 벤치마크 그래프가 안 오르는 곳이 없습니다. 수학, 코딩, 추론 전부 신기록 행진인데요. 그런데 학계 한쪽에서는 정반대 이야기가 나옵니다. “LLM은 도약(jump)하지 못한다"는 겁니다. 점수는 오르는데 능력은 그대로라니, 이게 무슨 말일까요.

먼저 밝혀둘 게 있습니다. 이 주제로 커뮤니티 여론을 훑어봤는데, 최근 30일 내 레딧 토론은 거의 잡히지 않았습니다. 논문 제목이나 학회 세션을 놓고 사람들이 떠들 만큼은 아직 아니라는 뜻이죠. 그래서 이 글은 커뮤니티 반응 정리가 아니라, 이 논쟁이 어떻게 짜여 있는지를 뜯어보는 쪽으로 씁니다.

‘Position paper’는 좀 다른 장르입니다

ICLR이나 ICML 같은 학회에는 포지션 페이퍼라는 트랙이 있습니다. 새 모델이나 새 실험 결과를 내놓는 논문이 아닙니다. “지금 이 분야가 잘못된 방향을 보고 있다"고 주장하는 글입니다. 근거는 대부분 기존 연구를 재해석한 것이고, 핵심 기여는 데이터가 아니라 논증입니다.

그래서 이런 논문은 읽는 방식이 다릅니다. “SOTA 찍었냐"를 묻는 게 아니라 “이 주장이 반증 가능한가"를 물어야 합니다. LLM 회의론 계열 포지션 페이퍼가 매년 학회를 달구는 이유도 여기 있습니다. 실험으로 즉시 깨지지 않는 주장을 던지기 때문입니다.

보간과 외삽, 이 두 단어가 논쟁의 전부입니다

핵심 용어는 두 개, 보간(interpolation)과 외삽(extrapolation)입니다.

보간은 이미 본 점 사이를 채우는 겁니다. 학습 데이터에 A와 C가 있으면 그 사이의 B를 추정하는 식이죠. 외삽은 본 적 없는 바깥으로 나가는 겁니다. 데이터 분포의 끝을 넘어서 예측하는 거고요.

회의론자들의 주장은 간단합니다. LLM이 하는 일은 전부 보간이라는 겁니다. 학습 데이터가 워낙 방대해서 보간 공간이 인간의 상식 범위를 거의 덮어버렸을 뿐, 원리적으로는 그 바깥으로 한 발짝도 못 나간다는 거죠. 우리가 “창의적이다"라고 느끼는 출력도 사실은 우리가 그 데이터를 다 못 읽어봤으니 새로워 보이는 거라는 얘기고요.

반대편 논리도 만만치 않습니다. 애초에 고차원 공간에서 ‘보간’과 ‘외삽’을 구분하는 게 의미가 있냐는 반론입니다. 차원이 수천, 수만으로 올라가면 새로 들어오는 데이터 포인트는 거의 항상 학습 데이터의 볼록껍질(convex hull) 바깥에 떨어집니다. 이 기준대로면 모든 딥러닝 모델이 늘 외삽 중이라는 결론이 나오죠. 그러면 구분 자체가 무의미해집니다.

이 논쟁은 “LLM이 잘하냐 못하냐"의 문제가 아닙니다. 측정 기준을 어떻게 정의할 것인가의 문제입니다.

벤치마크가 오르는데도 회의론이 사라지지 않는 이유

여기가 핵심입니다. 벤치마크 점수 상승은 회의론의 반박 증거가 되지 못합니다. 이유가 몇 가지 있습니다.

하나는 오염(contamination)입니다. 벤치마크 문제와 비슷한 텍스트가 학습 데이터에 섞여 들어갔을 수 있는데, 아니라고 못 박기가 어렵습니다. 점수가 올랐는데 그게 능력인지 기억인지 구분이 안 되는 겁니다.

벤치마크 자체가 보간 테스트라는 지적도 있습니다. 시험 문제를 사람이 만드는 순간, 그 문제는 이미 인간이 아는 문제 유형의 범위 안에 있습니다. 진짜 외삽 능력을 재려면 “인류가 아직 풀지 못한 문제"를 내야 하는데, 그건 채점이 안 됩니다.

반대로 회의론자들이 기준을 계속 올린다는 목표 이동(goalpost moving) 비판도 있습니다. 이 지적은 어느 정도 타당합니다. 10년 전에는 바둑이, 5년 전에는 수학 올림피아드가 마지노선이었으니까요. 다만 회의론 쪽 반박도 있습니다. 기준이 이동한 게 아니라, 기준을 넘었다고 생각했던 게 나중에 착각으로 드러났다는 겁니다.

스케일링으로는 못 넘는다는 주장의 근거

‘스케일링으로 넘을 수 없는 벽’이라는 표현이 꽤 센 주장인데요. 논거는 대략 이렇습니다.

스케일링 법칙은 데이터와 파라미터가 늘수록 손실(loss)이 멱법칙(power law)으로 줄어든다는 경험칙입니다. 그런데 멱법칙은 0으로 수렴하지 않습니다. 완만하게 낮아질 뿐이죠. 게다가 이 손실 감소가 재는 건 다음 토큰 예측 정확도입니다. 학습 분포를 더 촘촘하게 근사한다는 뜻이지, 분포 바깥으로 나간다는 보장이 아닙니다.

여기서 논리가 갈라집니다. 회의론자는 “분포를 아무리 촘촘히 채워도 채우는 건 채우는 것"이라고 말합니다. 낙관론자는 “충분히 촘촘해지면 질적 전환이 일어난다"고 봅니다. 창발(emergence) 논쟁이 여기 붙죠. 그런데 창발 현상 상당수는 평가 지표를 이산형에서 연속형으로 바꾸면 매끄러운 곡선으로 풀립니다. 그런 연구가 나오면서 창발 쪽 근거도 예전만큼 단단하지는 않습니다.

한쪽은 원리적으로 불가능하다고 하고, 다른 쪽은 해보면 될 수도 있다고 말합니다. 논증의 층위가 다르니 결판이 나기 어렵습니다.

그래서 실무자는 뭘 챙겨야 하나

철학 논쟁 같아 보이지만 실무에 바로 걸리는 대목이 있습니다.

모델이 잘하는 영역과 못하는 영역을 가르는 기준이 난이도가 아니라 데이터 밀도일 수 있다는 점입니다. 어려워 보이는 수학 문제는 잘 푸는데 사내에만 존재하는 이상한 레거시 시스템 앞에서 헤매는 경험, 다들 있으실 겁니다. 이게 우연이 아닐 수 있다는 거죠. 앞엣것은 인터넷에 유사 사례가 수천만 건 있고, 뒤엣것은 세상에 하나뿐이니까요.

이 관점을 받아들이면 도구 선택이 달라집니다. 모델 크기를 키우는 것보다 내 문제를 학습 분포 안으로 끌어오는 작업이 우선순위가 됩니다. 검색 증강이든, 예시를 촘촘히 넣는 프롬프트든, 도메인 데이터 파인튜닝이든 결국 같은 일입니다. 모델을 바깥으로 내보내는 게 아니라 내 문제를 안으로 들여오는 겁니다.

남는 질문

이 논쟁은 어느 쪽이 이기느냐가 별로 중요하지 않습니다. 질문이 바뀌는 게 남죠. “LLM이 똑똑하냐"는 답이 안 나오는 질문입니다. “이 작업이 모델의 학습 분포 안에 있느냐"는 답을 찾아볼 수 있는 질문이고요.

지금 LLM에 맡기고 있는 일 중에 인터넷에 비슷한 사례가 거의 없는 작업은 뭔가요. 그 목록이 다음 모델이 나와도 직접 해야 할 일일지도 모릅니다.