Dust

Dust, 역전파 없이 트랜스포머 사전 학습하는 제로차 최적화 기법 공개

Samip Dahal과 Bishwas Mandal 등 연구진이 이끄는 Q Labs 팀이 2026년 10월, 역전파를 사용하지 않고 트랜스포머 언어 모델을 사전 학습할 수 있는 새로운 방법론인 Dust를 공개했다.