Hugging Face a annoncé une nouvelle intégration baptisée TorchTPU, destinée à permettre l'exécution native de modèles PyTorch sur les puces TPU de Google. Jusqu'à présent, faire tourner des charges de travail PyTorch sur TPU nécessitait souvent de passer par des couches de compatibilité comme PyTorch/XLA, avec des frictions parfois importantes pour les développeurs habitués à l'écosystème CUDA de Nvidia.
L'objectif affiché de cette initiative est de réduire ces frictions en proposant un chemin plus direct entre les bibliothèques de l'écosystème Hugging Face, comme Transformers ou Diffusers, et le matériel TPU. Pour les équipes qui dépendent de l'infrastructure Google Cloud, cela pourrait simplifier le déploiement et l'entraînement de modèles sans avoir à réécrire leur code pour JAX ou Flax, les frameworks traditionnellement privilégiés sur TPU.
Cette annonce s'inscrit dans une tendance plus large de diversification matérielle dans l'industrie de l'IA, où les acteurs cherchent à réduire leur dépendance aux GPU Nvidia, confrontés à des tensions sur les approvisionnements et des coûts élevés. En facilitant l'accès aux TPU pour la communauté PyTorch, qui reste le framework dominant pour la recherche et le développement de modèles, Hugging Face pourrait accélérer l'adoption de cette alternative matérielle chez des utilisateurs qui n'avaient pas investi dans l'écosystème Google.
Les détails techniques précis de cette intégration, notamment les performances comparées aux solutions existantes et le périmètre des bibliothèques supportées, restent à préciser. Il s'agit néanmoins d'un signal supplémentaire de la volonté des grands acteurs de l'open source en IA de multiplier les options matérielles disponibles pour leurs utilisateurs.