구글, PyTorch 환경에서 TPU를 원활하게 사용할 수 있도록 설계된 TorchTPU 공개.

핵심 요약

Google은 PyTorch 코드를 Google의 텐서 처리 장치(TPU)에서 최대한의 효율성으로 실행할 수 있도록 설계된 백엔드 라이브러리인 TorchTPU를 출시했습니다. Meta의 PyTorch 팀과의 협력을 통해 개발된 이 프로젝트는 PyTorch 지원 범위를 기존 CPU 및 GPU에서 TPU 하드웨어까지 확장합니다. 또한, Hugging Face와의 협력을 통해 오픈 소스 모델을 테스트하고, vLLM, SGLang, llm-d, TorchTitan, VeRL, Ray, LiteRT 등 다양한 라이브러리와 협력하여 TPU에서의 성능을 검증하고 있습니다. TorchTPU 개발은 2025년에 시작되었으며, 이 프로젝트는 2026년 PyTorch 컨퍼런스에서 GitHub을 통해 완전한 오픈 소스로 공개되었습니다.