애플, MLX 최신 버전으로 Mac Studio 클러스터에서 초대형 모델 추론 시연
애플 머신러닝 연구팀이 MLX 프레임워크의 새 버전을 공개하며 네 대의 Mac Studio를 연결해 파라미터 약 8천억 개 규모의 모델을 구동하는 실험 결과를 발표했습니다.
JORE2
AI Inference
1개의 이야기
JORE2
애플 머신러닝 연구팀이 MLX 프레임워크의 새 버전을 공개하며 네 대의 Mac Studio를 연결해 파라미터 약 8천억 개 규모의 모델을 구동하는 실험 결과를 발표했습니다.