역전파 없는 학습 실험, 목표 도달 시간 1.76시간에서 1.6초

실험 대상은 매개변수 3770만개 규모의 GPT 모델이며, 파인웹 데이터 1000만 토큰을 한 차례 학습하는 조건이었다. 따라서 1.6초라는 기록을 상용 대형 언어모델 전체 학습 시간으로 확대해석할 수는 없다.

기존 딥러닝은 출력 오차를 앞쪽 층으로 되돌려 가중치를 조정하는 역전파를 주로 사용한다. Q랩스의 ‘더스트’ 방식은 가중치 자체보다 모델 내부 활성화값에 변화를 주고, 여러 후보의 예측 오차를 비교해 업데이트 방향을 추정한다.

최저 손실값도 4.167에서 3.676으로 개선돼 기존 아담 최적화 기준치보다 낮아졌다. 그러나 동일한 최적화 조건에서는 역전파가 여전히 앞섰고, 속도와 최저 손실값 기록도 서로 다른 평가에서 나온 결과다.

연구진은 더 큰 데이터와 모델에서도 성능을 유지할 수 있는지 확인하기 위해 학습 토큰을 3000만개로 늘리고 H100 GPU 8개 환경에서 새로운 평가를 진행하고 있다. 이번 성과는 역전파를 곧바로 대체했다기보다 다른 학습 경로의 가능성을 시험한 사례에 가깝다.