구글 클라우드가 PyTorch Conference 2026에서 자사의 Tensor Processing Units(TPU)를 위한 네이티브 PyTorch 백엔드인 TorchTPU를 오픈소스로 공개했습니다. 이 프로젝트는 GitHub의 google-pytorch 저장소를 통해 접근 가능하며, 개발자들이 익숙한 PyTorch 도구를 사용해 TPU에서 모델을 훈련하고 서빙 및 배포할 수 있도록 설계되었습니다.
TorchTPU는 Meta의 PyTorch 팀과 공동으로 개발된 것이 특징입니다. 이를 통해 사용자는 최소한의 코드 수정만으로 기존 PyTorch 워크로드를 TPU 환경에서 실행할 수 있습니다. eager 모드에서의 디버깅부터 torch.compile을 활용한 프로덕션 수준의 성능 최적화까지 지원하며, 이는 TPU의 메모리 사용을 줄이고 활용률을 높이는 데 기여합니다.
호환성 측면에서도 주목할 만합니다. Google Cloud 블로그에 따르면 TorchTPU는 vLLM, SGLang, llm-d, TorchTitan, Ray, TorchRec, Hugging Face, LiteRT 등 현재 널리 사용되는 주요 AI 인프라 도구들과 연동됩니다. 이는 GPU와 CPU에 이어 TPU가 PyTorch 생태계의 공식적인 선택지로 자리 잡았음을 의미합니다.
기술 커뮤니티의 반응도 확인됩니다. Hacker News에서는 이번 발표가 XLA 컴파일러 인프라의 잠재력을 보여주는 사례로 평가받기도 했습니다. 일부 이용자들은 JAX와 PyTorch 간의 경계가 하드웨어 커널 계층으로 이동하면서 스타일 선호도의 문제가 되고 있다는 의견을 제시하기도 했습니다.
현재 GitHub 저장소에는 약 331개의 스타가 기록되어 있으며, 프로젝트는 PyTorch 백엔드로서의 기능을 명확히 정의하고 있습니다. 다만, 일반 사용자가 TPUs를 직접 구매하여 사용하는 경로보다는 구글 클라우드 인프라 내에서 주로 활용되는 특성이 있어, 외부 접근성은 제한적일 수 있습니다.