역전파 없이 트랜스포머를 학습한다면? Dust의 성능·비용·확장성 따져보기
핵심 요약
- Dust는 역전파 없이 트랜스포머를 사전학습하려는 시도입니다.
- 커뮤니티에서는 높은 연산 비용과 병렬 처리 가능성을 함께 논의했습니다.
- 큰 모델이 후보 집단 대비 효율에서 유리했다는 댓글은 총 훈련비와 구분해서 읽어야 합니다.
- 실제로 쓸 만한지 판단하려면 같은 성능에 도달하는 데 드는 연산량과 시간을 함께 비교해야 합니다.
AI 모델 학습에 널리 쓰는 역전파를 빼면 비용과 속도는 어떻게 달라질까요? 10월 5일 Hacker News에 올라온 ‘Dust: Pretraining Transformers Without Backpropagation’은 180점과 댓글 43개를 기록했습니다. 역전파를 생략했다는 점도 눈길을 끌지만, 그 선택이 실제 학습 비용과 속도에 어떤 영향을 주는지가 궁금해집니다.
1. 역전파를 빼면 무엇이 달라질까요
트랜스포머는 오늘날 언어 모델의 바탕이 되는 신경망 구조입니다. 사전학습은 이런 모델이 대량의 데이터에서 언어의 패턴을 익히는 단계입니다.
이때 널리 쓰는 학습 방법이 역전파입니다. 모델이 낸 답의 오차를 바탕으로 각 매개변수를 어느 방향으로 바꿔야 할지 계산합니다. 매개변수는 모델 내부에서 조정하는 숫자라고 생각하면 됩니다.
Dust의 목표는 이 역전파 없이 트랜스포머를 사전학습하는 것입니다. 모델의 구조 자체를 바꾸는 일과, 그 모델을 학습시키는 방법을 바꾸는 일은 구분해서 봐야 합니다.
그렇다고 바로 “그러면 학습이 저렴해지겠네”라고 결론 내리기는 어렵습니다. 역전파를 없애도 좋은 매개변수를 찾는 작업은 여전히 필요합니다. 그 대신 쓰는 방법에 계산이 얼마나 필요한지에 따라 비용이 달라집니다.
2. 큰 모델이 더 유리했다는 반응의 의미
Hacker News 토론에서는 모델 크기에 관한 댓글이 눈에 띄었습니다. 한 댓글은 매개변수 2억4300만 개인 모델이 자신보다 약 120배 작은 모델을 대부분의 후보 집단 크기에서 앞섰다는 점을 짚었습니다.
댓글에 나오는 ‘population’은 여러 후보를 묶은 집단을 가리킵니다. 댓글 작성자는 모델이 커지면서 후보 집단 대비 효율도 좋아졌다고 해석했습니다.
학습해야 할 숫자가 많아지면 좋은 매개변수를 찾기도 더 어려워질 것 같습니다. 그런 예상과 달리 큰 모델이 더 유리했다는 점은 흥미롭습니다. 다만 이는 커뮤니티에서 실험을 해석한 내용이라는 점을 염두에 둬야 합니다.
여기서 후보 수 대비 효율과 총 연산 효율은 구분해야 합니다. 큰 모델은 후보 하나를 평가할 때도 더 많은 계산이 필요할 수 있습니다. 적은 후보로 좋은 결과를 얻었다고 해도 전체 훈련비는 더 높을 수 있습니다.
역전파를 쓸 때와 성능이 얼마나 다른지 보려면 비교 조건을 맞춰야 합니다. 같은 크기의 모델에 같은 데이터를 주고, 동일한 평가 기준으로 결과를 비교해야 합니다. 여기에 연산량을 얼마나 썼는지까지 알아야 실제로 쓸 만한 방법인지 판단할 수 있습니다.
3. 더 많이 계산하면서도 더 빨리 끝낼 수 있습니다
토론에 소개된 또 다른 의견은 Dust가 역전파보다 계산 효율은 낮지만 병렬화하기는 쉬워 보인다는 것이었습니다. 비용을 비교해 확정한 결론은 아니며, 커뮤니티에서 학습 방식의 장단점을 평가한 의견입니다.
이 의견을 이해하려면 총 연산량과 완료까지 걸리는 시간을 따로 봐야 합니다.
가령 어떤 작업이 GPU 한 대에서 100시간 걸린다고 해보겠습니다. 이 작업을 완벽하게 나눌 수 있다면 GPU 10대로 10시간에 끝낼 수 있습니다. 끝나는 시간은 빨라져도 사용량은 여전히 100 GPU시간입니다. 병렬 처리 때문에 추가 비용이 들면 총사용량은 더 늘어납니다.
이 예시는 Dust의 측정 결과가 아니라 병렬화의 효과를 설명하기 위한 가정입니다. 실제로는 장비끼리 통신하고 작업을 나눠야 하므로 계산을 이렇게 깔끔하게 분배하기 어렵습니다.
팀의 사정에 따라 어느 쪽이 더 중요한지는 달라집니다. 실험 결과를 빨리 받아야 하는 팀이라면 장비를 더 투입할 이유가 있습니다. 반대로 장비 수나 예산이 제한된 팀이라면 총 연산량을 더 중요하게 볼 수밖에 없습니다.
Dust의 비용도 이렇게 따져봐야 합니다. 목표 성능에 도달할 때까지 GPU를 얼마나 사용했는지와 실제로 며칠이 걸렸는지를 함께 봐야 합니다.
4. 확장성은 모델과 장비를 각각 늘려봐야 압니다
Dust가 규모를 키워도 쓸 만한지 보려면 두 가지를 확인해야 합니다.
첫째는 모델을 키워도 학습이 잘되는가입니다. 2억4300만 매개변수 모델에 대한 댓글이 여기에 해당합니다. 다만 그 모델에서 보인 결과가 훨씬 큰 모델에서도 이어지는지는 따로 확인해야 합니다.
둘째는 장비를 늘리면 그만큼 빨라지는가입니다. 여러 후보를 서로 독립적으로 평가할 수 있다면 병렬화에 유리할 수 있습니다. 하지만 실제로 얼마나 빨라지는지는 통신량에 달려 있습니다. 작업을 어떻게 나누는지, 결과를 모으는 데 얼마나 걸리는지도 영향을 줍니다.
제가 궁금한 건 이 두 효과가 함께 나타날 수 있느냐입니다. 큰 모델에서도 학습 효율을 유지하면서 장비를 추가한 만큼 시간을 줄일 수 있다면, 연산 비용이 높더라도 쓸 만한 곳이 생길 수 있습니다. 그러려면 두 조건이 각각 성립하는지부터 입증해야 합니다.
Hacker News에서는 혼합 접근도 제안됐습니다. 역전파로 미리 학습한 모델에서 시작해 Dust 방식으로 추가 학습하면 어떻겠느냐는 의견입니다. 성능이 좋아졌다고 확인한 결과는 아니며, 후속 실험을 해보자는 제안입니다.
Dust가 실제로 쓸 만한지는 목표 성능까지 드는 총비용과 시간을 함께 놓고 판단해야 합니다. 역전파를 생략한 효과도 이 두 수치로 확인할 수 있습니다. 같은 성능을 얻는 데 더 많은 GPU가 필요하더라도 실험을 일찍 끝낼 수 있다면, 그 시간을 줄이는 데 추가 비용을 쓸 만한지가 팀의 선택 기준이 될 것입니다.
댓글
댓글을 불러오는 중...