El “Cut” del 75% de HBM de DeepSeek es más estrecho que el titular… Y esto ha hecho que su precio se reajuste en relación con el alcance de su memoria.

Un titular de este semana decía que el laboratorio de IA chino DeepSeek había reducido sus necesidades de memoria en un 75% en uno de los casos y en un 87.5% en otro. Las acciones relacionadas con la memoria se vieron afectadas inmediatamente por esto. Micron cayó aproximadamente un 5% el viernes por la mañana; SanDisk, un 4%; y Samsung…SK Hynix cayó más del 3% en Seúl.Si se observan los nombres de esos modelos de IA que han sido el más rentable en el último año, surge la pregunta: ¿es un modelo más económico una verdadera amenaza para la demanda de memoria, o simplemente una excusa adecuada para venderlo?

Comience por determinar cuál es realmente el valor de ese número, ya que el titular del artículo exagera su alcance. Los recortes del 75% y 87.5% se aplican al caché KV del modelo, y no a la memoria dentro de un centro de datos en general. El caché KV es como una “papelera” donde se almacenan los registros de las conversaciones, documentos y códigos que el modelo ya ha leído; es necesario mantenerlo disponible para poder volver a utilizarlos en el futuro. DeepSeek dice que su nueva versión V4.1-Flash reduce ese caché global en…890 bytes por token.En comparación, son 3,514 para el V4-Flash anterior y 48,068 para V3.2. Eso significa que la porción de almacenamiento HBM representa una cuarta parte del total, mientras que la porción de almacenamiento SSD persiste en aproximadamente un octavo del total.

Ese es un resultado real de la ingeniería, y se enquadra perfectamente en la tendencia que señalamos hace un año.La memoria está separada del procesamiento informático.Con el modelo de memoria que se escapa del HBM costoso… Lo destacable aquí es hacia dónde se dirigió esta iteración: en lugar de simplemente reducir la cantidad de memoria caché a un nivel más económico con SSD, DeepSeek redujo la cantidad de memoria caché en ambos niveles al mismo tiempo. El mecanismo utilizado es una nueva arquitectura de codificador-decodificador asimétrica.552 mil millones de parámetros, pero solo 8 mil millones son activos por cada token de entrada.Y 16 mil millones por producto – además de una atención escasa, que solo analiza unas pocas cien posiciones relevantes.Quantización de 4 bits del caché global.

Lo que merece atención es la cantidad de ahorros obtenidos en el SSD que son simplemente aproximaciones, y no resultados realmente eficientes. DeepSeek dejó de almacenar el contexto temporal en el almacenamiento, y si ese contexto falta, lo reconstruye automáticamente.Reproduciendo solo los últimos 128 tokens.– La calidad deliberada en cuanto a la memoria, como señala el informe, podría causar pérdidas de capacidad en condiciones extremas. Tampoco existe una validación independiente aún: no hay evaluaciones por parte de terceros para los casos relacionados con los “hard-agent”.No se divulgan los costos por token ni los valores de latencia.El número de bytes por token es una especificación, no un resultado económico medido.

¿Cuál es la lectura correcta para la demanda de memoria: 75% menos HBM, o casi nada menos?

La distinción que determina esto es qué es el caché de KV y qué son los recursos de memoria necesarios para ejecutar los modelos. El caché representa una parte de la memoria necesaria para servir a estos modelos; las demás partes – los cientos de gigabytes de datos que deben alojarse en HBM para que un modelo de este tamaño pueda funcionar, los clústeres que lo entrenan, y el aumento en la cantidad de información procesada– no se ven afectadas por esta actualización. Una reducción del 75% en el uso del caché no significa una reducción del 75% en la venta de HBM; nadie afirma que la demanda total de memoria haya disminuido en esa medida. Es la primera y más importante corrección que hay que hacer respecto al titular del artículo.

El segundo es la dirección en la que la eficiencia se mueve. En términos de precios, la acción de DeepSeek reduce el costo de mantener vivos a los agentes de IA y de reutilizar su contexto durante una sesión larga. Un costo más bajo por inferencia, históricamente, es lo que aumenta el consumo total de computación y memoria, y no lo que lo disminuye. Si el número de agentes y usuarios crece más rápido que la memoria necesaria por token, la demanda total de memoria aumenta, incluso cuando el tamaño del modelo disminuye. Es ese el mecanismo que el “caso negativo” debe superar. Las matemáticas presentadas en el informe también confirman que una caché…Ocho veces más pequeño no significa ocho veces más barato.Una vez que se calculen los costos relacionados con el procesamiento, la red y el manejo de recursos.

Nada de esto hace que la caída de precios sea incorrecta. Lo que ocurre es que refleja el precio al que estos valores están cotizados. Se trata de un grupo de empresas que ya han logrado resultados excepcionales: Micron ha aumentado aproximadamente un 240% en el último año, y sus ingresos han casi triplicado. El margen bruto es superior al 70%, mientras que el margen operativo está cerca del 66%. SanDisk ha aumentado aproximadamente un 600% en el último año. Ambas empresas tienen un valor de mercado cercano a 12 veces sus ventas históricas. Cuando una acción ha crecido tanto, su valoración ya no está determinada por las condiciones económicas actuales, sino que depende del crecimiento del próximo trimestre. Eso es precisamente lo que intenta manipular una afirmación de eficiencia sin ningún tipo de validación.

Por lo tanto, la respuesta honesta a la pregunta “¿qué significa esto para la memoria?” es más limitada que el titular del artículo y más amplia que el pánico. No demuestra una crisis de demanda: la reducción afecta solo una parte de una línea de costos; parte de eso es una aproximación, y los agentes más baratos tienden a generar más agentes. Pero sí demuestra que las valoraciones actuales dependen de algo: cuánta memoria se consume por unidad de inteligencia ya no es algo lineal. La solución se mostrará donde siempre ocurre en el caso de la memoria: si el volumen de agentes impulsados por eficiencia supera el tamaño reducido de cada token. Hasta que se mida eso, trate el 75% como una especie de hoja de especificaciones que refleja nuevas expectativas, y no como una cantidad de bytes que desaparecieron de la industria.