La matrice d-Matrix explique pourquoi Nvidia a abandonné son projet – et comment elle compte contrôler Inference.

Les actions de Nvidia ont chuté de environ 2,5 % jeudi. L’information principale qui fait l’actualité est celle d’une « startup de chips valant 2 milliards de dollars » qui utilise l’une des technologies propres à Nvidia. Cela ressemble à la menace que cette entreprise subit depuis trois ans. d-Matrix…Start-up soutenue par Microsoft, évaluée à 2 milliards de dollarsCela permettrait à cette entreprise de produire son propre chip d’IA. Elle aurait utilisé le protocole NVLink Fusion de Nvidia pour intégrer ce chip directement dans les serveurs du centre de données de Nvidia. À première vue, cela semble être le moment où le silicium personnalisé commence enfin à briser les barrières que Nvidia impose, juste au moment où le marché de l’IA se tourne vers l’endroit où Nvidia a toujours été le plus vulnérable.

La structure réelle de l’accord est tout autre. La d-Matrix ne remplace pas les chips fabriqués par Nvidia. Elle construit plutôt ses propres chips afin de remplacer ceux-ci.à l’intérieurUn système de stockage Nvidia, entouré de processeurs Nvidia, de switchs NVLink, de processeurs utilisés dans les centres de données et de réseaux Ethernet. Cette annonce, faite à mi-tournée, illustre bien comment Nvidia compte tirer des profits de la prochaine étape de l’ère de l’IA, plus que n’importe une présentation financière jusqu’à présent.

Le cycle passe de l’entraînement à l’inférence.

Le contexte qui rend les nouvelles importantes est une transition en cours. Pendant la majeure partie de l’essor de l’IA, l’argent provenait de…entraînement– La création de ces modèles géants est un processus qui dure plusieurs mois et s’effectue avec les GPU de Nvidia. De plus, c’est grâce à CUDA, le couche logicielle qui rend le matériel de Nvidia difficilement remplaçable, que Nvidia peut réaliser ce travail. Le entraînement des modèles est là où la force de Nvidia est la plus importante.

L’inférence est différente. Exécuter un modèle pour chaque utilisateur, chaque requête, chaque jour est une activité qui repose sur les coûts et les délais de traitement : le gagnant est celui dont le processeur répond le plus rapidement, à moindre coût par token, et non nécessairement celui qui est le plus flexible. C’est justement ce type de charge de travail que la silicium spécialement conçue, les accélérateurs personnalisés fournis par les hyperscalers et les start-ups peuvent surpasser les GPU polyvalents. Nvidia reconnaît déjà ce changement – les documents de presse de l’entreprise start-up décrivent bien ces types de charges de travail.Passer du entraînement des modèles d’IA au déploiement de ces modèles.Et le chip au centre des nouvelles de jeudi, Raptor de D-Matrix, est conçu purement pour les inférences.

Ainsi, lorsqu’une start-up possédant son propre processeur d’inférence annonce qu’elle va s’intégrer à l’infrastructure de Nvidia, on pense instinctivement que c’est un concurrent étrange qui arrive, et que Nvidia devient simplement un outil pour alimenter cet autre acteur. Mais cette interprétation est incorrecte concernant ce que fait la d-Matrix… mais pas entièrement fausse quant à ce qu’elle signifie.

Lire le contrat tel qu’il est réellement structuré

Voici le détail qui constitue l’ensemble de la réponse. Une seule réponse de l’IA est produite en deux étapes. L’étape de “préremplissage”, où la question est lue et la réponse est préparée, nécessite beaucoup de calculs et favorise les GPU Nvidia. L’étape de “décodage”, où la réponse est générée mot par mot, est sensible à la latence : chaque mot nouveau doit être produit en une fraction de seconde. Dans le système d’d-Matrix…Les GPU de Nvidia gèrent le processus de précharge, tandis que le chip Raptor de d-Matrix est chargé du décodage.Les deux sont connectés ensemble dans la même rack via NVLink Fusion.Une technologie de connexion à haute bande passante et faible latence.Cela permet aux processeurs personnalisés de coexister avec les GPU, la mémoire et les fonctionnalités de réseau d’Nvidia.

Cette division représente une complémentarité, et non une concurrence. La d-Matrix obtient accès à des clients qui n’auraient jamais pris le risque d’utiliser un chip différent de celui de Nvidia. Nvidia, quant à elle, conserve tous les éléments nécessaires au fonctionnement du système : le rack, les interfaces de communication, les CPU, les équipements de réseau, ainsi que le logiciel de gestion. La start-up est donc un partenaire parmi plusieurs autres dans cette même stratégie commerciale : Nvidia a déjà été rachetée par…Marvell investit 2 milliards de dollars.Et il y a quelques semaines, cela a été…3,5 milliards de dollars investis dans les obligations convertibles de MediaTekPour mettre les travaux de conception personnalisée de MediaTek sous l’égide de NVLink Fusion. Nvidia ne lutte pas contre la Silicon personnalisée ; elle se fait le tissu conjonctif dans lequel cette Silicon personnalisée doit s’insérer.

C’est la transition entre l’entraînement et l’inférence qui devient physique. La réponse de Nvidia face à la dispute concernant qui effectue le calcul d’inférence est de posséder tout ce qui s’y rapporte, et de garder une partie de chaque infrastructure, indépendamment du processeur qui effectue le travail final. Les équipements matériels définissent les limites ; l’écosystème, en revanche, crée les variations possibles.

Ce que représente réellement cette baisse de 2,5 %

À côté de cette structure, la baisse des prix du jeudi est une mesure de l’état actuel de l’entreprise, mais pas du résultat opérationnel – et le résultat opérationnel n’existe même pas encore. Rien ne se vend pendant un an.Le chip Raptor de d-Matrix devrait être fabriqué à la fin de 2026.Et les rack de combinaison ne seront disponibles qu’à la fin de l’année 2027. La courbe de retour à court terme ne change pas en raison de ces nouvelles.

La inquiétude raisonnable qui se cache derrière ce comportement vaut d’être mentionnée, car elle est réelle. L’inference exige de l’efficacité, et tout le concept de d-Matrix en repose sur cela.Chip 3D DRAM-stackedPrétendant offrir une véritable amélioration dans les temps de calcul à faible latence…En cours d’évaluation par les hyperscalers et les laboratoires de pointe.C’est le genre de histoire liée à l’économie des unités qui a déjà été surmonté par les générations précédentes. Si le silicium utilisé pour l’inference de comportements personnalisés gagne en termes de coût par token, alors la part de revenus que Nvidia obtient par travail de calcul diminue, même lorsque ses revenus totaux du système augmentent. NVLink Fusion constitue une mesure de protection contre cela, mais c’est une mesure qui entraîne une diminution des marges bénéficiaires : il vaut mieux obtenir 100 % d’une part plus petite du système, plutôt que de lutter pour une part de plus en plus petite dans le calcul lui-même.

Pour un détenteur de ces parts, la lecture disciplinée est simple : Nvidia n’a pas besoin d’avoir le monopole sur les accélérateurs pour continuer à croître. Mais c’est là une confirmation claire que l’ère des inférences est contestée, et que l’entreprise fait volontairement des compromis en termes de marge par charge de travail, au profit de sa position au niveau du système entier. Le chiffre à surveiller n’est pas le prix de la semaine prochaine. C’est plutôt si ces panneaux de 2027 sont livrés selon le calendrier prévu, avec des engagements réels de partenaires hyperscalers derrière eux. Car c’est à ce moment-là que la stratégie devient véritablement un moyen de générer des revenus. Nvidia mise un an et demi sur le fait que posséder ces panneaux est plus avantageux que posséder les puces. La baisse de cours jeudi montre que les investisseurs n’ont pas encore décidé clairement quel est le plus valable.