딥시크가 또 일냈다: '추론 속도 60~85% 향상' 통째로 오픈소스로 푼 DSpark

딥시크가 또 한 번 판을 흔들었습니다. 이번엔 새 모델이 아니라 모델을 더 빠르게 돌리는 기술을 통째로 풀었습니다. DSpark라는 이름의 추론 최적화 기법인데요, 같은 모델로도 생성 속도를 60~85% 끌어올린다고 합니다. 중국 오픈소스가 이번엔 ‘추론 효율’이라는 무기로 프런티어를 건드리기 시작했습니다.

먼저 솔직하게 짚고 넘어가겠습니다. 이 주제는 공개된 지 얼마 안 돼서 아직 커뮤니티 토론 데이터가 거의 없습니다. 레딧이나 해커뉴스에서 활발한 갑론을박이 쌓이기 전 단계입니다. 그래서 이 글은 ‘커뮤니티 여론’ 정리보다는, DSpark가 무엇을 노리는 기술인지, 왜 지금 의미가 있는지를 풀어드리는 데 집중하겠습니다.

스페큘러티브 디코딩, 도대체 뭐길래

DSpark의 핵심은 ‘스페큘러티브 디코딩(speculative decoding)‘이라는 기법입니다. 이름은 어렵지만 원리는 의외로 직관적입니다.

LLM은 글자(토큰)를 한 번에 하나씩 생성합니다. 다음 단어를 예측하고, 그걸 입력에 붙여서 또 다음 단어를 예측합니다. 이 과정을 수백 번 반복하는데요, 매번 거대한 모델을 통째로 한 번씩 돌려야 합니다. 느린 이유가 여기 있습니다.

스페큘러티브 디코딩은 여기에 ‘꼼수’를 씁니다. 작고 빠른 모델이 먼저 다음 몇 개 단어를 미리 추측해서 던집니다. 그러면 크고 똑똑한 본 모델은 이 추측들을 한꺼번에 검토만 합니다. 맞으면 그대로 채택하고, 틀린 부분부터 다시 생성합니다.

비유하자면 이렇습니다. 신입 직원이 보고서 초안을 빠르게 써오면, 부장님이 한 번에 쭉 읽으면서 맞는 부분은 통과시키고 틀린 부분만 고치는 식입니다. 부장님이 한 글자씩 직접 타이핑하는 것보다 훨씬 빠릅니다.

60~85%라는 숫자가 의미하는 것

DSpark가 내세우는 60~85% 속도 향상은 추측이 얼마나 잘 맞느냐에 달려 있습니다. 작은 모델의 추측이 자주 적중할수록 본 모델이 다시 일할 일이 줄어들기 때문입니다.

이 숫자가 중요한 이유는 단순히 ‘체감 속도’가 아닙니다. 추론 속도는 곧 비용입니다. 같은 GPU로 같은 시간에 더 많은 답을 뽑아낼 수 있다면, 토큰당 단가가 그만큼 내려갑니다. AI 서비스를 운영하는 입장에서 추론 효율은 생존이 걸린 문제입니다.

게다가 챗봇이나 코딩 도구처럼 사람이 응답을 기다리는 서비스에서는 속도가 곧 사용성입니다. 답이 1초 만에 나오느냐 5초 걸리느냐는 전혀 다른 제품 경험입니다.

왜 ‘오픈소스로 통째로’ 풀었나

여기가 진짜 핵심입니다. 스페큘러티브 디코딩 자체는 딥시크가 처음 만든 게 아닙니다. 구글, 메타 등 여러 곳에서 연구해온 기법입니다. 하지만 이걸 실전에서 제대로 돌아가게 튜닝하고, 그 노하우를 전부 공개하는 건 또 다른 이야기입니다.

보통 추론 최적화는 회사의 핵심 경쟁력입니다. 같은 모델이라도 더 싸게 돌리는 기술은 곧 마진이기 때문에, 다들 꽁꽁 숨깁니다. 딥시크는 이걸 거꾸로 갑니다. 모델도 풀고, 이제 모델을 빠르게 돌리는 비법까지 풉니다.

이건 전략입니다. 딥시크는 그동안 ‘R1’ 같은 추론 모델로 가성비 충격을 줬는데요, 이번엔 인프라 레이어에서 같은 일을 하려는 겁니다. 자기 모델뿐 아니라 다른 오픈 모델을 돌리는 사람들까지 딥시크 생태계 도구를 쓰게 만드는 그림입니다.

중국 오픈소스의 다음 전장: ‘효율’

지금까지 오픈소스 LLM 경쟁은 주로 ‘얼마나 똑똑한가’에 쏠려 있었습니다. 벤치마크 점수, 추론 능력, 코딩 실력 같은 것들이죠. 그런데 DSpark는 전장을 옮깁니다. ‘얼마나 빠르고 싸게 돌리느냐’입니다.

이건 의미가 큽니다. 모델 성능은 결국 비슷한 수준으로 수렴하는 경향이 있습니다. 그렇다면 다음 차별화 포인트는 운영 효율이 됩니다. 폐쇄형 프런티어 모델들이 가진 마지막 해자 중 하나가 ‘우리는 인프라가 좋아서 더 싸게 돌린다’였는데, 그 비법이 오픈소스로 풀리기 시작한 겁니다.

물론 마케팅 수치와 실제 환경의 성능은 다를 수 있습니다. 60~85%라는 향상폭이 어떤 조건에서 나온 건지, 다양한 워크로드에서도 유지되는지는 커뮤니티 검증을 기다려봐야 합니다. 아직 실사용 후기가 쌓이지 않은 단계라는 점은 분명히 감안해야 합니다.

마무리

딥시크는 이번에도 ‘공개’를 무기로 삼았습니다. 모델의 똑똑함이 아니라, 그 모델을 굴리는 효율로 프런티어를 흔들기 시작한 겁니다. 추론 비용이 곧 AI 서비스의 생사를 가르는 시대에, 이 비법을 통째로 푸는 건 단순한 선심이 아니라 판을 뒤집으려는 한 수입니다.

폐쇄형 진영의 마지막 해자가 ‘효율’이었다면, 이제 그 해자도 메워지는 걸까요. 여러분은 모델 성능과 추론 효율 중 어느 쪽이 다음 경쟁의 진짜 승부처가 될 거라고 보시나요.