En bref
- Le terme TPU recouvre deux réalités chez Google : mobile et data center.
- NPU, GPU et TPU se distinguent surtout par leur architecture et leurs usages.
- Pour l’IA à grande échelle, les TPU de data center sont taillés pour les très gros modèles.
Le mot TPU embrouille pas mal de monde, et pour une fois on comprend pourquoi. Chez Google, le sigle peut désigner une grosse brique d’IA pour data centers, mais aussi ce qui ressemble, dans un smartphone, à un NPU maison. Même nom, pas la même bête.
Le TPU du téléphone n’est pas celui du cloud
Lancé en interne par Google dès 2015, le TPU, pour Tensor Processing Unit, est à la base un accélérateur propriétaire pensé pour les calculs massifs de l’IA et du machine learning dans les centres de données du groupe. C’est là qu’il vit surtout.
Mais le sigle a refait surface avec le Pixel 11 et sa puce Tensor G6, que Google présente avec 50 % de calcul TPU en plus. Sur ce terrain-là, le TPU sert surtout aux traitements d’image, à la photo et aux fonctions d’IA exécutées en local. En gros, sur mobile, ce TPU joue le rôle qu’on associe d’habitude à un NPU.
GPU, NPU, TPU : chacun son terrain
Le NPU, vous le croisez déjà partout, dans les smartphones modernes, les PC et les Macs. C’est lui qui prend en charge les tâches d’IA locales à faible consommation, comme la traduction en temps réel, les effets caméra ou l’édition d’image. Sur le Pixel 11, Google promet d’ailleurs jusqu’à 3,5 fois plus de vitesse en IA locale, avec jusqu’à 3,5 fois moins d’énergie consommée.
Le GPU, lui, reste le couteau suisse. Avant la vague IA, on le voulait surtout pour faire tourner des jeux comme Crysis 3 à fond ou pour bosser sur de la 3D. Aujourd’hui, il garde ces usages, tout en servant aussi à l’entraînement IA et même au minage crypto. Résultat, les meilleurs modèles coûtent une fortune. Rien de neuf sous le soleil.
Pourquoi le vrai TPU compte autant pour l’IA à grande échelle ?
La vraie différence tient à l’échelle et à l’architecture. Les TPU de data center sont taillés pour les très gros modèles, notamment les LLM et le deep learning massif. Ils reposent sur une organisation matérielle dite systolic array, une grille 2D de multiplicateurs où le résultat d’une unité alimente directement la suivante.
Ça évite une partie des allers-retours vers la mémoire que les GPU doivent gérer. Et quand il faut répondre à des milliards de requêtes d’IA par jour pour des acteurs comme Anthropic ou Midjourney, la latence, les goulots d’étranglement et la conso électrique deviennent un sujet très concret. Sur ce point, le TPU a un vrai avantage. Clairement.
La meilleure puce ? Mauvaise question
Il n’y a pas de gagnant absolu. Les NPU et les TPU embarqués sont parfaits pour les petites tâches IA du quotidien, sans vider la batterie de votre téléphone ou de votre laptop.
Les TPU de Google, eux, sont faits pour faire tourner la grosse machine mondiale de l’IA. Et les GPU gardent leur énorme intérêt parce qu’ils savent presque tout faire, du jeu vidéo au montage, en passant par les simulations et les LLM en local, à condition d’avoir un modèle bien musclé. Bref, chaque puce a sa classe. Pas le même donjon.
