Le pourcentage de réduction obtenu par DeepSeek avec l’HBM à 75 % est plus faible que ce qui a été annoncé dans les annonces publiques. De plus, le prix de l’HBM a été réajusté en raison de la capacité accrue de mémoire.

Un titre de cette semaine indiquait que le laboratoire chinois de l’IA DeepSeek avait réduit ses besoins en mémoire de 75 % pour certaines applications, et de 87,5 % pour d’autres. Les actions des entreprises liées à la mémoire ont immédiatement réagi à cet événement. Micron a chuté d’environ 5 % le vendredi matin, SanDisk de environ 4 %, et Samsung…SK Hynix a chuté de plus de 3 % à Séoul.Si vous avez en main ou si vous observez les noms des modèles d’IA liés à la mémoire – un groupe qui a été le plus rentable au cours de l’année dernière – la question est de savoir si un modèle moins cher représente une véritable menace pour la demande en mémoire, ou s’il s’agit simplement d’une excuse parfaite pour vendre.

Commencez par déterminer ce que représente réellement ce chiffre, car le titre de l’article exagère son importance. Les reductions de 75 % et 87,5 % s’appliquent au cache KV du modèle, et non au stockage mémoire situé dans un datacenter en général. Le cache KV est en réalité un espace de stockage pour les données de l’IA : il contient les conversations, les documents et le code qu’elle a déjà lu. Il est donc essentiel que ce cache soit toujours disponible, afin que l’IA puisse y retourner facilement. DeepSeek affirme que sa nouvelle version V4.1-Flash permet de réduire ce cache global de…890 octets par tokencontre 3 514 pour le V4-Flash précédent et 48 068 pour le V3.2. Cela signifie que la partie dédiée à l’HBM représente un quart du total, tandis que la partie SSD reste à environ un huitième.

C’est un résultat d’ingénierie réel, et il correspond parfaitement à une tendance que nous avons identifiée il y a un an :La mémoire est désaccordée par rapport au calcul.Le modèle utilise des éléments de stockage qui fuient hors du HBM coûteux. Ce qui est intéressant, c’est la manière dont cette itération s’est déroulée : au lieu de simplement réduire le cache à un SSD moins cher, DeepSeek a réduit le cache dans les deux niveaux en même temps. Le mécanisme repose sur une nouvelle architecture encodage-décodage asymétrique.552 milliards de paramètres, mais seulement 8 milliards actifs par token d’entréeet 16 milliards par production – en plus d’une attention limitée qui ne lit que quelques centaines de positions pertinentes.Quantisation à 4 bits pour la mémoire cache globale.

La partie qui mérite attention, c’est la quantité d’économies obtenues grâce à l’SSD qui est plutôt une approximation qu’une véritable efficacité. DeepSeek cesse de stocker les contextes temporaires dans le stockage. Si cet élément n’est pas disponible, il le reconstruit.Rejouer uniquement les 128 tokens les plus récents— Une qualité délibérée pour la mémoire, reconnaît le rapport, pourrait entraîner une perte de capacité dans des conditions extrêmes. Il n’y a pas non plus de validation indépendante : aucun critère de mesure par des tiers pour les cas où l’agent est solide.Aucun coût par jeton ou données de latence n’est divulgué.Le chiffre des octets par token est une spécification, et non un résultat économique mesuré.

Quelle est la lecture correcte concernant la demande en mémoire : 75 % moins d’HBM, ou presque pas de différence ?

La distinction qui compte, c’est la différence entre la cache KV et les besoins en mémoire pour exécuter les modèles. La cache représente une partie de la mémoire nécessaire pour exécuter ces modèles ; les autres parties – les centaines de gigaoctets de poids qui doivent être stockés dans HBM pour pouvoir exécuter un modèle de cette taille, les clusters utilisés pour son entraînement, ainsi que l’augmentation du volume d’informations traitées – ne sont pas affectés par cette mise à jour. Une réduction de 75 % dans la mémoire de secours ne signifie pas une réduction de 75 % dans les quantités de HBM vendues. Personne ne prétend que la demande totale en mémoire a diminué de cette manière. C’est là la première et la plus importante correction à apporter au chiffre principal.

Le deuxième facteur est la direction dans laquelle l’efficacité se déplace. En termes de tarification, les actions de DeepSeek permettent de réduire le coût de maintenir en vie un agent IA et de réutiliser son contexte pendant une longue session. Un coût plus bas par inférence est, historiquement, ce qui augmente la consommation totale de calcul et de mémoire, plutôt que de la réduire. Si le nombre d’agents et de utilisateurs augmente plus rapidement que la mémoire nécessaire par token pour chacun d’eux, la demande totale en mémoire augmente, même si l’empreinte totale du modèle diminue. C’est le problème que l’étude doit surmonter. Les calculs indiqués dans le rapport montrent également que une mémoire cache…Être huit fois plus petit ne signifie pas être huit fois moins cher.Une fois que les surcoûts liés au calcul, au réseau et à l’utilisation du système sont comptés.

Rien de tout cela ne rend le marché moins efficace. Ce qui se passe, c’est plutôt que les valeurs des actions en question reflètent ce à quoi elles ont été évaluées. Il s’agit d’un groupe dont les résultats sont déjà extrêmement bons : Micron a augmenté d’environ 240 % depuis le début de l’année, et ses revenus ont presque triplé. Le taux de marge brute est supérieur à 70 %, et celui du bénéfice opérationnel est près de 66 %. SanDisk a augmenté d’environ 600 % depuis le début de l’année. Les deux actions sont cotées à des prix proches de 12 fois leurs revenus récents. Lorsqu’une action se déplace dans ces proportions, sa valeur ne repose plus sur les conditions économiques actuelles, mais sur la croissance prévue pour le prochain trimestre. C’est précisément là que se trouve la force de cette affirmation sur l’efficacité de l’entreprise.

La réponse honnête à la question « que signifie cela pour la mémoire » est donc plus étroite que l’annonce publiée en titre, mais aussi plus large que la panique qui règne actuellement. Ce n’est pas une preuve d’une chute de la demande : cette réduction affecte seulement une partie d’une ligne de coûts ; une partie de ces coûts est approximative, et les agents moins chers tendent à créer davantage d’agents. Mais cela prouve bien que la valeur sur laquelle ces évaluations reposent – ou c’est combien de mémoire est consommée par unité d’intelligence – n’est plus un processus unidirectionnel. La solution se manifestera là où elle se manifeste toujours pour la mémoire : dans la mesure où le volume d’agents motivé par l’efficacité dépasse la taille réduite de chaque token. Jusqu’à ce que cela soit mesuré, considérez les 75 % comme une sorte de document de spécification qui réévalue les attentes, et non comme un calcul des octets qui ont disparu de l’industrie.