GPT 방식의 한계를 넘는다 — '확산 언어 모델'이 텍스트 생성의 판을 바꿀 수 있을까

지금 우리가 쓰는 ChatGPT, Claude, Gemini는 모두 같은 방식으로 글을 씁니다. 왼쪽에서 오른쪽으로, 한 토큰씩 순서대로 찍어나가는 자기회귀(Autoregressive) 방식입니다. 그런데 최근 이 공식에 정면으로 도전하는 접근법이 학계에서 주목받고 있습니다. 바로 이미지 생성에서 혁명을 일으킨 확산(Diffusion) 기법을 텍스트에 적용하는 “확산 언어 모델"입니다.

자기회귀 모델, 뭐가 문제인가

GPT로 대표되는 자기회귀 모델은 놀라운 성능을 보여줬지만, 구조적 한계가 분명합니다.

첫째, 한 방향으로만 생각합니다. 이미 출력한 토큰을 되돌아가서 고칠 수 없습니다. 사람이 글을 쓸 때 앞 문장을 고치고, 뒷부분을 먼저 구상하고, 전체 흐름을 조율하는 것과는 정반대입니다.

둘째, 속도 병목이 있습니다. 1,000 토큰짜리 답변을 생성하려면 1,000번의 순차적 연산이 필요합니다. 병렬 처리가 원천적으로 어렵습니다.

셋째, “나비효과” 문제입니다. 초반 토큰 선택이 전체 텍스트의 방향을 결정합니다. 첫 문장에서 잘못된 방향으로 가면, 모델은 그 위에 계속 쌓아올릴 수밖에 없습니다.

확산 모델, 이미지에서 텍스트로

Stable Diffusion이나 DALL-E가 이미지를 만드는 방식을 떠올려 보세요. 노이즈로 가득 찬 화면에서 시작해, 단계적으로 노이즈를 제거하며 선명한 이미지를 만들어냅니다. 확산 언어 모델은 이 아이디어를 텍스트에 그대로 가져옵니다.

처음에는 의미 없는 토큰들로 가득 찬 텍스트 블록이 있습니다. 모델은 이 전체 블록을 반복적으로 “다듬어” 갑니다. 핵심은 모든 위치를 동시에 수정한다는 점입니다. 앞부분과 뒷부분을 함께 보면서 전체적인 일관성을 맞춰가는 셈이죠.

“Introspective Diffusion"이라는 이름이 붙은 이유도 여기에 있습니다. 모델이 자기 자신이 생성 중인 텍스트를 내성적으로(introspectively) 들여다보며 수정해나가는 과정이 마치 사람이 초고를 퇴고하는 것과 닮았습니다.

기존 시도와 무엇이 다른가

사실 확산 모델을 텍스트에 적용하려는 시도는 이전에도 있었습니다. 2022년 등장한 Diffusion-LM, 2023년의 MDLM(Masked Diffusion Language Model) 등이 대표적입니다. 하지만 이들은 공통적인 벽에 부딪혔습니다. 텍스트는 이미지와 달리 이산적(discrete)이라는 점입니다.

이미지 픽셀은 연속적인 숫자값이라 노이즈를 조금씩 줄이는 것이 자연스럽습니다. 반면 텍스트 토큰은 “고양이"와 “강아지” 사이에 중간값이 없습니다. 이 간극을 어떻게 메우느냐가 확산 언어 모델 연구의 핵심 과제였습니다.

최근 논문들이 제시하는 해법은 크게 두 갈래입니다. 하나는 토큰을 연속 벡터 공간에 임베딩한 뒤 그 공간에서 확산을 수행하는 방식이고, 다른 하나는 마스킹 기반으로 이산 공간에서 직접 확산을 수행하는 방식입니다. Introspective Diffusion 계열은 후자에 가까우면서도, 모델이 자체적으로 생성 품질을 평가하고 수정하는 피드백 루프를 도입한 것이 차별점입니다.

현실적으로 어디까지 왔나

솔직히 말씀드리면, 아직 갈 길이 멉니다.

현재 확산 언어 모델의 텍스트 품질은 같은 규모의 자기회귀 모델에 비해 뒤처집니다. 특히 긴 문맥에서의 논리적 일관성, 팩트 정확도 측면에서 격차가 있습니다. GPT-4나 Claude 같은 수백억 파라미터급 모델과 직접 비교하기는 아직 어렵습니다.

그러나 주목할 만한 장점들도 있습니다.

병렬 생성이 가능하다는 점은 추론 속도에서 극적인 개선 가능성을 의미합니다. 자기회귀 모델이 1,000번 순차 연산할 것을 수십 번의 확산 스텝으로 줄일 수 있습니다.

텍스트 편집과 제어가 자연스럽습니다. 문장 중간을 마스킹하고 다시 채우는 인필링(infilling), 특정 조건에 맞게 전체 텍스트를 조율하는 가이디드 생성(guided generation)이 구조적으로 쉽습니다.

계획적 글쓰기에도 유리합니다. 전체 텍스트를 한꺼번에 보면서 수정하기 때문에, 결론을 먼저 정하고 서론을 맞추는 식의 글로벌 계획이 가능합니다.

자기회귀의 대체재인가, 보완재인가

현실적으로 가장 유력한 시나리오는 하이브리드입니다. 자기회귀 모델로 초안을 빠르게 생성한 뒤, 확산 모델로 전체를 다듬는 2단계 파이프라인이 여러 연구에서 제안되고 있습니다. 사람의 글쓰기 과정과도 닮아 있는 접근이죠.

또 다른 가능성은 특화된 영역에서의 활용입니다. 코드 생성, 분자 구조 설계, 음악 작곡처럼 전체 구조의 일관성이 중요하고 편집이 빈번한 분야에서 확산 모델이 먼저 자리 잡을 수 있습니다.

다만 한 가지 짚어야 할 점이 있습니다. 지금의 LLM 생태계는 자기회귀 모델을 중심으로 최적화되어 있습니다. 추론 인프라, 파인튜닝 기법, 평가 벤치마크까지 전부요. 확산 언어 모델이 실질적 대안이 되려면 성능뿐 아니라 이 생태계 전체와 경쟁해야 합니다.

확산 언어 모델은 아직 학계의 실험실 단계에 머물러 있고, 커뮤니티에서도 뜨거운 논쟁이 벌어지고 있다고 보기는 어렵습니다. 하지만 자기회귀라는 현재의 지배적 패러다임이 영원할 것이라고 장담할 수도 없습니다. 이미지 생성에서 GAN이 지배하던 자리를 확산 모델이 불과 2-3년 만에 뒤집었다는 것을 기억할 필요가 있습니다. 다음 세대의 언어 모델이 글을 “쓰는” 것이 아니라 “조각하는” 방식으로 바뀔 수 있을까요? 지켜볼 가치가 충분합니다.