Les objectifs d’acquisition de Taalas chez AMD visent à renforcer les capacités d’inference de Nvidia… Mais les conditions pour obtenir le succès restent à prouver.

AMD se concentre sur l’inference à coûts élevés, plutôt que sur la domination de Nvidia dans le domaine de l’entraînement.

AMD ne cherche pas à surpasser Nvidia en matière de formation des données. Elle cible plutôt la partie moins chère du marché : l’infernement.Performance et efficacité d’inférence révolutionnairesC’est la phrase que l’entreprise utilise. Cette distinction est importante, car Taalas ne construit pas de nouveaux GPU flexibles. Ses accélérateurs sont…Personnalisé, ou programmé de manière automatique pour un seul modèle d’IA..

Pourquoi les inférences sont le véritable champ de bataille ici

L’entraînement représente le coût d’investissement principal, mais l’inférence constitue la couche qui nécessite un coût répétitif et sensible aux coûts. C’est pourquoi AMD s’y intéresse : le silicium de style Taalas pourrait aider à résoudre les problèmes liés au calcul et à la mémoire qui entravent les architectures polyvalentes. AMD affirme pouvoir combiner cela avec les GPU Instinct pour proposer des solutions d’inférence au niveau du système.

Le compromis est simple : les puces spécifiques aux modèles peuvent sacrifier la flexibilité en échange de vitesse et de coûts plus bas. Pour les clients qui exécutent des charges de travail stables et à grande échelle, cela peut être intéressant.

Pourquoi maintenant ? Les actions d’AMD ont déjà acquis une avantage compétitif lié aux fusions-acquisitions.118,9 % depuis le début de l’année, et 183,8 % au cours de l’année écoulée.AMD a également indiqué clairement que ce n’était pas un projet secondaire : elle a annoncé l’acquisition de cette technologie et a déclaré qu’elle prévoit d’intégrer cette technologie dans son plan de développement des accélérateurs.

L’approche de Taalas est spécifique par défaut, et cela limite son marché.

L’appel de Taalas est technique, et non rhétorique. Le silicium est conçu pour un rôle spécifique, et non pour remplacer toutes les tâches liées aux IA.

Comment l’architecture devrait-elle gagner

• Les accélérateurs de Taalas sontPersonnalisé, ou défini de manière fixe pour un seul modèle d’IA..
• Dans la description d’AMD, cela permet à Taalas de…Optimiser les flux de données d’inférenceEt réduire les problèmes de calcul et de mémoire, par rapport aux architectures polyvalentes.
• Selon les rapports, les poids des modèles sont…incrusté dans le siliciumAvec des caches de données KV et des adaptateurs de fine-tuning stockés dans le SRAM. Si le transfert des données n’est pas un obstacle important, alors plus de ressources du chip peuvent être utilisées pour produire l’output.

C’est également la limite totale de cette possibilité. Un chip conçu pour un modèle particulier peut surpasser un GPU flexible dans des conditions spécifiques, mais il ne peut pas se adapter comme le fait le logiciel sur un GPU lorsque le modèle change.

Pourquoi AMD a encore des raisons d’acheter

AMD n’a pas besoin de Taalas pour remplacer les GPU dans son portefeuille d’IA. Elle a besoin d’une couche d’inférence spécialisée qui puisse s’intégrer à une stack plus large. AMD affirme que cette technologie sera intégrée à ses systèmes.Cheminement de l’accélérateurEt cela est combiné avec les GPU AMD Instinct, dans une plateforme qui comprend également des solutions de type AMD Helios RackScale, des processeurs AMD EPYC, ainsi que le logiciel AMD ROCm.

Regardez trois choses : – Quels modèles seront les premiers à être produits en tant que produits réels ? – Si le cycle de conception reste manageable à mesure que les modèles deviennent plus grands. – Si AMD peut vendre des ensembles de produits, et non seulement des tests de performance.

Cela ressemble plus à une attaque latérale qu’à une confrontation directe contre Nvidia.

Ce n’est pas AMD qui défie Nvidia sur son propre terrain. C’est plutôt une tentative de pénétrer dans le domaine de l’inférence, où les clients se soucient principalement du coût par token et de la latence, et non de la flexibilité brute. Le moment stratégique est intéressant : Nvidia elle-même a montré à quel point ce secteur est important en dépensant…20 milliardsIl s’agit des actifs de Groq au mois de décembre dernier. AMD cherche à atteindre le même budget client, mais en adoptant une approche plus ciblée.

Pourquoi c’est additif, et non substitutif.

AMD ne demande pas aux clients de retirer les GPU et de les remplacer par des cartes mères spécifiques au modèle concerné. Il s’agit simplement d’ajouter un autre outil au pack proposé. L’entreprise indique que Taalas sera intégré dans son système.Routement d’accélérationEt cela permet de développer des solutions à niveau système en utilisant les GPU AMD Instinct, au sein d’un ensemble plus complet de composants. C’est une stratégie bien connue dans le domaine des semi-conducteurs : approfondir la plateforme, augmenter les coûts de conversion, et vendre l’ensemble du package de déploiement, plutôt qu’un seul chip isolé.

Ce que les scénarios de « bull market » et de « bear market » signifient réellement

Les optimistes diront que le marché sous-estime toujours AMD, à condition que la technologie de type Taalas aide l’entreprise à réussir dans les tâches d’inférence à haute volumétrie et à faible latence. Les pessimistes affirmeront que c’est une tactique limitée : l’hardware spécifique au modèle ne peut être efficace que si les clients acceptent une moindre flexibilité en échange d’un coût plus bas pour la mise en service des services.

C’est pourquoi la discussion concernant les actions a changé. Les actions d’AMD sont déjà en hausse.183,8 % au cours de l’année dernièreLe marché ne paie plus pour une possibilité lointaine ; il paie pour l’exécution concrète.

Qu’est-ce qui prouverait la thèse ? Et qu’est-ce qui la réfuterait ?

La configuration est désormais moins liée aux titres de presse, et plus liée au timing, à l’intégration et à la productivisation des produits.

Les catalyseurs suivants

• Accord conclu :AMDun accord définitif a été obtenuAcheter Taalas, avec la transactionannoncé à la clôture du marché jeudiLes investisseurs devraient faire attention aux conditions de clôture standard et au calendrier réglementaire.
• L’intégration est plus importante que l’acquisition :AMD dit qu’elle le fera.Intégrer cette technologie dans son plan de développement en cours.Et construire des solutions au niveau du système, en utilisant les GPU AMD Instinct. La thèse ne sera améliorée que si Taalas devient une couche de produit au sein de la stack d’IA d’AMD, et non simplement un élément lié aux communiqués de presse.
• Les activités principales continuent de déterminer le ton général :Si le niveau de revenus global d’AMD est insatisfaisant, il est moins probable que le marché donne à Taalas le temps de se développer pleinement.

Signaux importants

Confirmation– Détails publics sur les tâches qui sont les premières à être transformées en produits – Preuves que le cycle de conception spécifique au modèle reste pratique à mesure que les déploiements augmentent – Motivation des clients pour utiliser le matériel de type Taalas dans des solutions d’inférence réelles, et non seulement dans des démonstrations isolées

InvalidationRetards dans la clôture ou problèmes d’intégration après un accord définitif. Faiblesses dans les activités commerciales générales d’AMD, ce qui limite l’attention et les ressources disponibles. Aucun support pour des modèles produits, à part les démonstrations initiales ; surtout si il est difficile de passer à des modèles plus importants.