최근 AI 개발자들 사이에서 토큰 가격의 급격한 하락과 함께 새로운 유통 경로에 대한 논의가 뜨겁습니다. 단순히 공식 API 가격이 내려간 것이 아니라, 기존에 존재하지 않던 복잡한 중간 유통망이 형성되면서 시장 전체의 가격 체계가 흔들리고 있기 때문입니다.
이 현상은 특히 중국을 중심으로 한 글로벌 시장에서 두드러지게 나타나고 있으며, 많은 스타트업과 개발자들이 저렴한 비용으로 고성능 모델을 활용하는 방법을 모색하고 있습니다.
## 토큰 리레이 시장의 작동 원리와 급부상 배경
이 시장의 핵심은 여러 공급자의 API 키를 모아 하나의 프록시 서비스로 제공하는 리레이 시스템입니다. Matt Lenhard의 조사에 따르면, 이 시스템은 무료 체험 기간을 악용하거나 보호되지 않은 지원 봇을 경유하는 방식으로 비용을 대폭 절감합니다.
때로는 도난당한 신용카드나 청구서 공격을 통해 얻은 자원을 활용하기도 합니다. 이러한 방식 덕분에 Anthropic 같은 주요 모델의 공식 크레딧 3,333 달러 상당을 약 425 위안, 즉 1 달러당 0.13 달러 수준으로 구매할 수 있는 경우가 발생합니다.
이는 공식 가격 대비 압도적인 할인율을 의미하며, 개발자들에게는 큰 매력으로 작용합니다.
이러한 시장 구조는 네 단계의 계층으로 나뉘어 운영됩니다. 가장 아래층에는 미국과 유럽의 청구 검증을 통과하도록 설계된 가상 신용카드와 대량 등록된 계정을 공급하는 상인들이 있습니다.
그 위에는 수백 개의 상류 계정을 통합하고 토큰 및 속도 제한을 관리하며 장애 발생 시 대체 경로를 제공하는 계정 풀이 위치합니다. 이어서 이 풀의 API 를 깔끔한 중국어 제품으로 감싸고 가격 경쟁력을 앞세우는 리레이나 이전 역이 존재합니다.
최종적으로는 이러한 저렴한 토큰을 구매하려는 개발자와 스타트업이 시장을 형성합니다. 이 과정은 마치 인기 있는 콘서트 티켓을 재판매하는 티켓팅 시장과 유사한 구조를 띠고 있습니다.
## 개발자와 기업에게 미치는 영향과 향후 전망
이러한 시장의 등장은 AI 애플리케이션을 운영하는 기업들에게는 양날의 검과 같습니다. 한편으로는 막대한 비용 절감 효과를 통해 대규모 데이터 처리나 모델 증류 작업을 수행할 수 있는 기회를 제공합니다.
인도에 위치한 한 스타트업은 새 기업에게 제공되는 AWS 무료 크레딧을 악용하여 실제 가격의 4 퍼센트 수준으로 추론 비용을 낮추며 경쟁 우위를 점하기도 했습니다. 이는 초기 자본이 부족한 스타트업에게 치명적인 경쟁력이 될 수 있으며, 시장 진입 장벽을 낮추는 역할을 합니다.
하지만 반대로는 AI 모델 제공사들에게는 예측 불가능한 리스크로 작용합니다. Simon Willison 은 자신의 LLM 기반 애플리케이션을 공개할 때 큰 토큰 청구서를 두려워하며 신중하게 접근한다고 밝혔습니다.
새로운 보호되지 않은 엔드포인트를 찾아내어 악용하는 생태계가 존재하기 때문입니다. 특히 모델 제공사들이 이러한 다중 계정을 하나의 행위자로 통합하여 감지하지 못한다면, 전체 모델의 성향에 영향을 미칠 수 있는 대규모 연산이 은밀하게 이루어질 수 있습니다.
이는 모델의 품질 저하나 예상치 못한 성능 변화를 초래할 수 있는 중요한 변수입니다.
앞으로 이 시장의 성패는 AI 모델 제공사들이 얼마나 엄격한 가격 상한선을 설정하느냐에 달려 있습니다. 현재는 무료 크레딧 악용이나 도난 카드 같은 비공식적인 경로가 통용되지만, 제공사들이 API 키에 대한 엄격한 한도 설정을 도입하면 이 시장의 구조가 바뀔 수 있습니다.
예를 들어, 설정된 달러 임계값에 도달하는 순간 애플리케이션이 작동하지 않도록 하는 기능이 도입된다면, 현재의 리레이 시장이 가진 가격 경쟁력은 크게 약화될 것입니다. 또한, 클라우드 제공사들이 새로운 기업 등록 시 제공하는 무료 크레딧 정책을 어떻게 조정하느냐도 시장의 흐름을 결정할 중요한 요소가 될 것입니다.
디지털 경제의 새로운 흐름으로 자리 잡은 이 리레이 시장은 단순한 가격 차익을 넘어 AI 생태계의 투명성과 안정성에 대한 질문을 던지고 있습니다. 개발자들은 저렴한 토큰을 통해 혁신을 가속화할 수 있지만, 모델 제공사는 자신의 자원이 어떻게 소비되는지 파악하는 데 어려움을 겪고 있습니다.
이 균형이 어떻게 맞춰질지에 따라 향후 AI 시장의 가격 체계와 유통 구조가 완전히 달라질 수 있습니다. 따라서 현재 진행 중인 이 시장의 변화를 주시하는 것은 단순한 트렌드 분석을 넘어, 미래 AI 인프라의 방향성을 읽는 중요한 열쇠가 될 것입니다.
작성자 소개
