Nvidia et Broadcom : Les deux entreprises de l’infrastructure de l’IA qui tiennent bon

Les cinq plus grands opérateurs de services cloud sont sur la voie de produire autour de…660 milliards à 690 milliards de dollars pour l’infrastructure IA cette année, soit presque le double du niveau de 2025.C’est pour cette raison que l’appellation « infrastructure AI » est appliquée à tout, des fabricants de GPU aux fabricants de tronçons de câbles. Mais l’argent ne s’écoule pas tous par un seul canal. Il soutient deux entreprises ayant des structures différentes. En utilisant le même critère pour les juger, les investisseurs du secteur privé finissent par payer pour des promesses infondées.

Il existe une façon rapide de les distinguer. Il ne suffit pas de savoir qui présente la meilleure fiche technique ; il faut savoir qui est à l’origine du coût par token – c’est-à-dire le prix réel pour exécuter un modèle à grande échelle. Cette seule question permet de distinguer les deux entreprises qui valent la peine d’être possédées, des entreprises dont tout le monde parle seulement le nom.

Le compromis au cœur de la construction

À l’échelle d’un centre de données, la contrainte principale pour une charge de travail d’IA n’est que rarement le nombre maximal de teraflops possibles. Il s’agit plutôt du nombre de tokens que l’on peut produire pour un dollar de capitaux et une unité de puissance électrique. Pour une charge de travail à haute vitesse, c’est le débit de mémoire et l’efficacité d’utilisation des ressources qui comptent. C’est ces facteurs économiques qui déterminent la structure du marché.

Nvidia propose une solution générale : une plateforme GPU, accompagnée d’un écosystème logiciel, qui permet de exécuter presque n’importe quel modèle. Les grands opérateurs trop importants pour se contenter de cela peuvent plutôt payer pour un chip spécialement conçu pour leurs besoins spécifiques, afin d’obtenir plus de tokens par dollar – mais seulement parce qu’ils sont suffisamment importants pour amortir les coûts de conception. C’est là le cas des chips personnalisés, et c’est…La plus grande menace structurelle pour la domination de Nvidia est bien plus importante que celle d’AMD.Les deux approches peuvent être rentables. Il s’agit simplement de marges et de risques différents.

La plateforme qui conserve son marge

Nvidia continue de prendre part.Environ quatre fois sur cinq des dollars investis dans le marché de l’accélérateur d’IA.Sa véritable force ne réside pas dans le circuit graphique, mais dans le système logiciel et les technologies de connectivité qui l’entourent. Une analyse indépendante montre que l’efficacité du système logiciel de Nvidia est d’environ 93 %, contre environ 80–85 % pour les systèmes logiciels des concurrents. Cette différence vaut plus que n’importe quel avantage concurrentiel.

Cet avantage concurrentiel se manifeste dans les comptes financiers. Nvidia transforme environ 47 % de ses revenus en flux de trésorerie libre. De plus, son taux de marge brute est d’environ 74 %, et ses revenus augmentent chaque année à un taux supérieur à 80 %. En outre, le ratio entre les bénéfices et le prix de vente est de près de 27. Un avantage concurrentiel lié au logiciel, ajouté à cette efficacité de transformation des revenus, est inhabituel pour une entreprise qui croît aussi rapidement.

La preuve de l’exécution actuelle est la plateforme Vera Rubin. Nvidia affirme que c’est la plateforme la plus rapide jamais développée.Il a permis de générer environ 20 milliards de dollars de revenus liés aux centres de données en un seul trimestre, soit environ un cinquième du chiffre d’affaires de ce secteur., avecDes systèmes de mesure à échelle de rack, dont le prix varie entre 5 millions et peut-être 7,8 millions de dollars chacun.Un CFO qui affirme que un produit se développe plus rapidement que tout ce qui s’est passé dans l’histoire de l’entreprise est une affirmation qui mérite d’être vérifiée, mais pas acceptée sans réserve. Mais les commandes ont déjà été envoyées à tous les principaux clients, et les premiers lots sont en route. Pour l’instant, l’histoire semble véridique.

Le squelette traditionnel qui a été triplé

Broadcom est l’autre pôle. Il ne concurrence pas Nvidia sur les GPU polyvalents ; il fabrique les puces personnalisées que les hyperscalers conçoivent pour eux-mêmes, ainsi que le réseau qui les relie entre eux.Les revenus liés aux semi-conducteurs d’IA ont plus que triplé, atteignant 16,7 milliards de dollars pour le trimestre se terminant en juillet.Et ses accélérateurs conventionnels représentent maintenant environ40 % du chiffre d’affaires total de l’entrepriseLa liste des clients –Google, Meta, OpenAI, Anthropic— C’est la liste des personnes clés liées à l’évolution de l’IA.

C’est là l’argument TCO en action : ces entreprises sont suffisamment grandes pour pouvoir se sortir de la situation difficile qu’elles subissent suite à la stratégie de Nvidia. Elles échangent un coût de conception unique contre le contrôle de l’économie des tokens à grande échelle. Broadcom est leur fournisseur d’armes ; son profit est presque identique à celui de Nvidia – environ 43 % de marge nette – bien que son multiple soit plus élevé, près de 45 fois les revenus.

Le problème, c’est l’autre facette de la concentration. Lorsque le pouvoir appartient à quelques acheteurs, les informations se concentrent sur eux. Broadcom a chuté d’environ 5 % lorsque Google a conclu un accord pour des puces personnalisées avec son concurrent Marvell.Ce mandat permet à Google d’acheter jusqu’à environ 12 milliards de dollars en actions de Marvell jusqu’en 2033.— Même un client fidèle a besoin d’un deuxième fournisseur. Alors, son propre…Conseils trimestriels, manque de réponses aux attentes des analystes pour ce trimestrePour quelques centaines de millions de dollars, le cours de l’action a chuté de 5 % pendant les transactions prolongées. Une croissance aussi rapide ne garantit pas que cette entreprise restera exclusive.

Le nom le plus populaire échoue à ce même test.

Cela laisse le nom “Retail Commentary” qui continue d’être promu : AMD, qui a augmenté de plus de 130 % cette année. Sur la fiche technique, on dirait qu’il s’agit d’un véritable concurrent…Le MI350X correspond au B200 de Nvidia en termes de calcul sur FP8 et possède plus de mémoire.C’est exactement la recette pour des inférences bon marché.

Mais la réalité concrète est inférieure à ce que l’on peut lire dans les documents. Des tests indépendants montrent que les puces AMD ne fonctionnent pas correctement.Le throttling du clock est intense sous charge continue. Le stack logiciel ROCm fonctionne à un taux d’utilisation de 80–85 % de l’efficacité de Nvidia. Cela entraîne une différence de performance lors de l’entraînement en conditions réelles de 10–25 %.par rapport au catalogue des spécifications. L’avantage en mémoire permet encore à AMD de bénéficier d’un avantage réel.Coût concurrentiel par token lors de l’inférenceIl y a une vraie niche pour ce produit. La question est de savoir quel prix le marché est prêt à payer pour cela : environ 129 fois les bénéfices récents, contre un taux de marge nette de 23 % et un rendement sur le capital de 8 %. Ce multiple est suffisant pour financer une transformation dont les marges et la performance ne sont pas encore au rendez-vous.

Il s’agit de ce qui se passe avec le test par token. Nvidia réussit ce test car elle possède le logiciel qui permet aux puces polyvalentes d’être plus efficaces. Elle renonce à cette avantage pour un prix de 27 fois ses revenus. Broadcom réussit également ce test, car c’est la manière dont les hyperscalers peuvent prendre le contrôle de leurs propres coûts de service. Broadcom a triplé ses revenus liés à l’IA pour prouver que la demande est réelle. AMD réussit ce test uniquement dans le domaine de l’inference, dans un secteur spécialisé, mais au prix d’un niveau de succès quasi total. C’est pourquoi, parmi les trois, c’est celui qui est le plus difficile à qualifier comme suffisamment convaincant.

La construction est réelle ; la question est de savoir combien il faut payer pour en être propriétaire. Peut-on posséder cette infrastructure à un prix inférieur, ou bien choisir de posséder le système de silicium personnalisé qui en fait partie, en acceptant que ses utilisateurs coûtent des milliards de dollars ? Les deux options sont défendables. Payer le prix le plus élevé pour obtenir les marges les plus faibles du groupe est la solution qui nécessite le plus de confiance.