최근 AI 칩 스타트업 그로크가 6억 5천만 달러 규모의 추가 자금을 유치했다는 소식이 기술 커뮤니티를 뜨겁게 달구고 있습니다. 많은 사람이 의아해하는 지점은 바로 지난해 말 엔비디아와의 거래 이후에도 어떻게 다시 대규모 투자를 받을 수 있었느냐는 것입니다.
표면적으로는 이미 거대 기업에 흡수된 것으로 보였기 때문에, 추가 자금 조달은 상식적으로 이해하기 어려운 대목이었습니다.
사실 관계를 따져보면 엔비디아는 그로크의 기업 전체를 인수한 것이 아니었습니다. 대신 그로크의 핵심 기술과 주요 기술 인력을 라이선스 형태로 확보했을 뿐, 그로크라는 법인 자체는 독립적으로 존속하고 있었습니다.
이 점이 자금 조달의 전제가 된 가장 중요한 사실입니다. 엔비디아는 그로크의 LPU 아키텍처와 이를 운영하는 핵심 인력을 영입했지만, 데이터센터 인프라와 추론 API 서비스를 운영하는 본체는 여전히 그로크의 손에 남아 있었습니다.
현재 그로크가 보유한 가장 큰 자산은 이미 구축된 네 개의 대규모 데이터센터입니다. 신규 데이터센터를 짓는 것이 점점 어려워지는 상황에서, 즉시 추론 워크로드를 처리할 수 있는 인프라는 그 자체로 강력한 경쟁력이 됩니다.
특히 그로크의 아키텍처는 고대역폭 메모리 대신 모든 SRAM을 사용하는 방식을 채택했습니다. 이 방식은 대형 모델보다는 상대적으로 작은 규모의 모델을 매우 빠르게 처리하는 데 특화되어 있습니다.
하지만 시장 반응은 엇갈립니다. 일부 사용자는 그로크의 추론 속도가 빠르다는 점에 매력을 느끼지만, 토큰당 비용 효율성은 낮다는 지적을 받기도 합니다.
커뮤니티 포럼이 폐쇄되고 기술 지원 인력이 사라졌다는 소식도 들려옵니다. 실제로 대형 모델을 지원하기 위해서는 막대한 메모리 비용이 들어가기 때문에, 그로크는 GPT 오프스 120B 같은 비교적 작은 모델을 중심으로 서비스를 운영 중입니다.
이번 자금 조달이 성공적으로 마무리되더라도 향후 전망은 불확실합니다. 그로크의 브랜드 가치가 시장에서 얼마나 인정받을지, 그리고 고비용 추론 전략이 장기적으로 경쟁력을 가질지는 지켜봐야 할 부분입니다.
데이터센터가 점차 상품화되는 흐름 속에서 그로크가 어떤 차별점을 만들어낼지, 그리고 엔비디아와의 라이선스 관계가 어떻게 진화할지가 다음 관전 포인트가 될 것입니다.