En bref
- L’inférence IA devient le nouveau marché clé, avec des puces moins chères et plus adaptées aux usages à grande échelle.
- General Compute lève 400 millions de dollars pour développer une alternative aux infrastructures dominées par les GPU Nvidia.
- Le financement des nouvelles puces montre que la domination de Nvidia pourrait progressivement se réduire.
Les GPU ne sont plus seuls au centre du jeu. Dans l’IA, l’argent commence à filer vers des puces d’inférence, moins glamour que les monstres de training, mais nettement plus utiles quand il faut faire tourner des modèles à grande échelle sans brûler le budget.
L’IA veut payer moins cher pour tourner
Le signal est assez clair. Face au prix des outils d’IA et des tokens, le marché cherche des infrastructures capables d’exécuter des modèles open source pour moins cher que les derniers LLM sortis des grands labos. Et ça change la hiérarchie des priorités.
On ne parle plus seulement de bâtir le prochain supercalculateur. Ce que beaucoup d’acteurs veulent, c’est faire tourner l’IA vite, proprement, et sans dépendre d’une seule pile matérielle. Bref, la partie la moins sexy devient peut-être la plus stratégique.
Un prêt massif pour une jeune pousse encore inconnue
General Compute, startup d’inference cloud lancée par Finn Puklowski, vient de décrocher un prêt d’environ 400 millions de dollars auprès d’Upper90. Le deal pourrait être le premier à utiliser comme garantie des puces pensées spécifiquement pour l’inférence.
La boîte avait déjà levé 15 millions de dollars en seed en mai dernier pour construire un neocloud autour du silicium de SambaNova, un fondeur soutenu par Intel. L’idée du neocloud, c’est du sur-mesure pour les charges IA, pas l’infra généraliste d’AWS ou d’Azure.
Ses puces SN50 sont annoncées comme sobres en énergie, sans besoin de water-cooling coûteux. Elles peuvent donc être déployées plus vite dans davantage de data centers. General Compute affirme même viser une inférence 16 fois plus rapide que des clouds basés sur des GPU. Sur le papier, c’est un vrai argument.
Le pari d’Upper90, du GPU à l’après-GPU
Le plus intéressant est presque ailleurs. Billy Libby, cofondateur et CEO d’Upper90, avait déjà financé en 2021 les achats de GPU de Crusoe. Selon lui, c’était alors le premier prêt adossé à la valeur de puces avancées. À l’époque, les prêteurs traditionnels évitaient ce genre d’opérations à cause du risque de dépréciation.
Puis CoreWeave a transformé ce montage en modèle économique, avant d’en faire l’un des piliers de son IPO. Résultat, ce financement adossé aux puces est devenu beaucoup plus courant. Et comme les GPU sont maintenant mieux compris, voire peut-être surachetés, Upper90 cherche la vague suivante.
Billy Libby dit que les modèles open source vont compter, et que tout le monde n’a pas besoin d’un supercalculateur, mais que tout le monde aura besoin d’inférence et d’IA. Le marché lui donne plutôt raison. OpenRouter et Fireworks ont levé à des valorisations élevées, le modèle Kimi K3 a montré qu’il pouvait rivaliser en code avec les dernières sorties d’Anthropic et d’OpenAI, tandis que Groq et Cerebras attirent l’attention des acquéreurs et des marchés.
Et General Compute n’est pas seul. TensorWave mise lui aussi sur une alternative via AMD. Pour Finn Puklowski, des puces avec un coût total de possession excellent et parfois plus rapides que celles de Nvidia commencent à monter en puissance, mais manquent encore d’acheteurs. Son constat est cash: ce prêt montre que le capital commence à s’organiser autour d’un marché où la domination de Nvidia se fragmente. Là, on parle d’un vrai tournant.
