리커시브 인텔리전스가 새로운 오픈 웨이트 언어 모델인 리플-65B 프리뷰를 공개했습니다. 이 회사는 하드웨어와 소프트웨어, 모델을 함께 최적화하는 풀스택 AI 연구소로, 자체적인 칩 설계 플랫폼을 운영 중입니다.
공개된 리플-65B는 해당 플랫폼을 구동하기 위해 처음부터 학습된 언어 모델의 일반 목적 변형입니다. 총 12조 토큰으로 사전 학습되었으며, 최대 100만 컨텍스트 길이를 지원합니다. 밀집형 아키텍처를 채택해 낮은 지연 시간으로 토큰 생성이 가능합니다.
성능 측면에서 주목할 만한 지표가 확인되었습니다. 에이전틱 코딩 벤치마크인 터미널벤치 2.1에서 80.52점을 기록하며 미국산 오픈 웨이트 모델 중 최고 수준에 도달했습니다. 이는 더 큰 파라미터 수를 가진 일부 경쟁 모델들을 상회하는 결과입니다.
구체적으로 비교 대상에는 리플렉션 빔 501B, 메타 뮤즈 스파크 오픈 816B, 싱킹 머신스 잉클링 975B, 엔비디아 네모트론 3 울트라 550B 등이 포함됩니다. 리플-65B는 상대적으로 작은 파라미터 규모임에도 이러한 대형 모델들보다 높은 점수를 획득했습니다.
배포 현황도 명확합니다. 허깅페이스, 투게더 AI, GMI 클라우드, 오픈라우터 등에서 즉시 이용 가능합니다. 파이어웍스 플랫폼에서는 당일 늦게 서비스 개시가 예정되어 있습니다.
기술적 배경으로는 로컬 디바이스에서의 효율성이 강조됩니다. NVIDIA DGX Spark 같은 장비는 연산 능력 대비 메모리 대역폭이 제한적인 특성을 보입니다. 리플-65B의 밀집형 구조는 이런 환경에서도 원활하게 실행될 수 있도록 설계되었습니다.
다만 커뮤니티 반응에서는 해석의 여지가 남아 있습니다. 특정 하위 범주나 크기에 한정된 SOTA 주장이라는 지적이 제기되었습니다. 또한 65B 규모의 밀집형 모델 특성상 소비자용 하드웨어에서는 추론 속도가 느릴 수 있다는 우려도 나왔습니다.
전문가들은 이 모델이 기업용 폐쇄망 환경이나 IP 보호가 필요한 칩 설계 자동화에 초점이 맞춰져 있을 가능성을 언급합니다. 서버급 인프라를 갖춘 조직이라면 대규모 추론 비용을 감당하면서 활용 가치가 높을 것으로 분석됩니다.
현재로서는 벤치마크 수치와 배포 채널이 공식화된 상태입니다. 실제 현장 적용 시 발생할 수 있는 메모리 병목 현상이나 비용 효율성에 대한 추가 데이터는 아직 공개되지 않았습니다.