거대 언어 모델이 모든 것을 해결해 줄 것이라는 통념이 흔들리고 있습니다. 오히려 작은 모델이 실시간 다중 에이전트 시뮬레이션의 핵심으로 떠오르고 있죠.
최근 하ugging Face 블로그에 소개된 ‘천 토큰 우드’ 프로젝트가 그 대표적인 사례입니다. 이 프로젝트는 30 억 파라미터 규모의 Qwen2.5-3B 모델을 기반으로 다섯 마리의 woodland creatures가 서로 거래하고, 소문을 퍼뜨리며, 재고를 모으는 경제 시스템을 구현했습니다.
왜 하필 작은 모델일까요. 거대 모델은 정확도가 높지만, 매 턴마다 수십 개의 에이전트가 동시에 사고하는 실시간 경제를 구동하기엔 속도가 느리고 비용이 비쌉니다.
반면 30 억 파라미터 모델은 한 번의 GPU 배치 호출로 여러 에이전트의 결정을 내릴 수 있습니다. 이 기술적 효율성이 바로 실시간 시장 시뮬레이션을 가능하게 만든 핵심 열쇠입니다.
초기 실험은 실패로 끝났습니다. 생산량이 소비량을 압도하자 모든 개체가 자급자족하게 되었고, 거래가 일어나지 않아 시장이 침묵에 빠졌죠.
문제는 단순한 자원 부족이 아니라 거래 동기의 부재였습니다. 개발자는 의도적으로 희소성을 설계하며 이 문제를 해결했습니다.
자원을 제한하고 에이전트들이 서로 의존하도록 만든 결과, 비로소 거품과 붕괴, 그리고 부의 격차 같은 경제 현상이 자연스럽게emergence되었습니다.
이 프로젝트는 작은 모델의 한계와 가능성을 동시에 보여줍니다. 30 억 파라미터 모델은 형식을 생성하는 데는 탁월하지만, 복잡한 추론을 할 때는 약점을 보입니다.
하지만 여러 에이전트가 상호작용하는 시스템 전체를 보면, 개별 에이전트의 약점이 모여 놀라운 수준의 경제 행동을 만들어냅니다. 이는 기술적 제약이 오히려 창의적인 시나리오를 낳을 수 있음을 증명합니다.
앞으로 주목할 점은 이 작은 경제 모델이 어떻게 확장될지입니다. 단순한 장난감을 넘어 실제 시장 예측이나 복잡한 의사결정 시나리오에 적용될 수 있을지 지켜봐야 합니다.
거대 모델의 시대에서 ‘작은 것의 힘’이 어떻게 새로운 트렌드로 자리 잡을지, 그 다음 단계가 궁금해지는 대목입니다.