Google et Meta ouvrent TorchTPU : PyTorch arrive nativement sur les TPU, et ça change tout

Annoncé hier à la PyTorch Conference 2026, TorchTPU est désormais open source. Ce nouveau backend, développé conjointement par Google et l'équipe PyTorch de Meta, fait des TPU de Google un périphérique natif de PyTorch : torch.device("tpu") suffit pour faire tourner du code PyTorch existant sur les puces de Google, sans réécriture.

Pendant des années, les développeurs curieux des TPU devaient passer par PyTorch/XLA, une couche aux tenseurs « paresseux » (lazy tensors), aux recompilations mystérieuses et au débogage approximatif. TorchTPU remplace tout ça : on débogue en mode eager, puis on passe à torch.compile pour les performances de production, avec des noyaux Pallas et des primitives distribuées intégrés.

Quatre dépôts, licence Apache 2.0

Le projet est publié sous licence Apache 2.0 sur GitHub, avec TorchTPU en version 0.2.0 sur PyPI (Python 3.11+). Quatre dépôts composent l'écosystème :

• TorchTPU — le backend natif lui-même
• vLLM-TorchTPU et SGLang-TorchTPU — les moteurs d'inférence populaires, adaptés aux TPU
• TorchTitan — le cadre d'entraînement

Le tout s'intègre aux outils déjà en usage : vLLM, SGLang, Ray, TorchTitan, VeRL et Hugging Face — dans Transformers v5, déployer un modèle sur TPU se résume à device_map="tpu". Google a aussi lancé le même jour la version 1.0 de llm-d, sa pile d'inférence distribuée pour Kubernetes.

Meta monte à bord

Le soutien le plus retentissant vient de Meta : Jana van Greunen, directrice de l'ingénierie PyTorch chez Meta, affirme que l'entreprise fait déjà tourner ses charges de travail majeures — modèles de langage, publicité et recommandations — sur TorchTPU. « Nous ne pouvons pas être contraints par une seule architecture matérielle », a-t-elle déclaré.

Côté chiffres, Google revendique jusqu'à 52 % d'utilisation des FLOPS (MFU) à l'entraînement de Qwen 3 8B, avec une montée en charge quasi linéaire jusqu'à 8 192 puces Ironwood (TPU7x), et un support des formats FP8, MXFP4 et NVFP4 pour l'inférence.

Notre avis

L'avantage de Nvidia n'a jamais été que le silicium : c'est CUDA, sa couche logicielle, qui rendait le départ coûteux. Quand le framework et les moteurs d'inférence que tout le monde utilise traitent un autre accélérateur comme une option native, ce coût s'effondre. TorchTPU est la première vraie fissure dans le monopole logiciel de Nvidia — et le fait que Google et Meta, deux rivaux, co-développent le projet en dit long sur l'urgence du moment. Reste à voir si les performances promises tiennent la route hors des benchmarks maison.