Die 75%-ige HBM-Effizienz von DeepSeek ist niedriger als die Ankündigung – und es wurde ein erweitertes Speicherangebot angeboten.

In einer Schlagzeile dieser Woche wurde berichtet, dass das chinesische KI-Labor DeepSeek die Anforderungen an die Speicherkapazität um 75 % und bei anderen Aspekten um 87,5 % reduziert hat. Dadurch wurden die Aktien der Unternehmen, die solche Speicherlösungen herstellen, sofort stark gefallen. Micron fiel am Freitagmorgen um etwa 5 %, SanDisk um etwa 4 %. Samsung und andere Unternehmen waren ebenfalls betroffen.SK Hynix fiel in Seoul um mehr als 3%.Wenn man sich die Namen dieser „AI-Memories“ ansieht – eine Gruppe, die im letzten Jahr der wertvollste Handel gewesen ist – dann stellt sich die Frage, ob ein günstigeres Modell eine echte Bedrohung für die Nachfrage nach Memories darstellt oder nur ein guter Vorwand, um zu verkaufen.

Beginnen wir mit der tatsächlichen Bedeutung dieses Zahlenwerts – denn die Schlagzeile überschätzt seine wahre Bedeutung. Die 75% und 87,5%-Kürzungen gelten für den KV-Cache des Modells, nicht für das Speichermedium innerhalb eines Data-Centers im Allgemeinen. Der KV-Cache ist das „Arbeitspapier“ der KI – eine Aufzeichnung aller Gespräche, Dokumente und Codes, die bereits gelesen wurden. Dieses Speichermedium muss stets verfügbar sein, damit die KI darauf zurückgreifen kann. DeepSeek behauptet, dass die neue Version V4.1-Flash diesen globalen Cache um etwa 75% reduziert.890 Bytes pro TokenIm Vergleich dazu sind es 3.514 für den vorherigen V4-Flash und 48.068 für V3.2. Das bedeutet, dass der HBM-bezogene Teil nur ein Viertel des Gesamtwerts ausmacht, während der SSD-Teil etwa ein Achtel des Gesamtwerts darstellt.

Das ist ein echtes Ingenieurresultat – und es passt genau in die Entwicklung, die wir vor einem Jahr aufgezeigt haben.Die Speicherung von Daten wird von der Rechenleistung getrennt.Der Modell-Sketchpad leckt dabei aus dem teuren HBM heraus. Interessant ist hierbei, wohin diese Iteration geführt hat: Anstatt nur den Cache auf günstigere SSDs zu verschieben, hat DeepSeek den Cache in beiden Ebenen gleichzeitig verkleinert. Der Mechanismus besteht in einer neuen asymmetrischen Encoder-Decoder-Architektur.552 Milliarden Parameter – aber nur 8 Milliarden aktive Parameter pro Eingabestimmt.Und 16 Milliarden pro Output – dazu kommt noch die geringe Aufmerksamkeit, die nur ein paar hundert relevante Positionen berücksichtigt.4-Bit-Quantisierung des globalen Caches.

Was besonders erwähnenswert ist, ist die Tatsache, dass ein Großteil der Einsparungen durch den SSD-Algorithmus eher eine Annäherung an die tatsächliche Effizienz ist – und nicht direkt eine echte Verbesserung der Effizienz. DeepSeek hört auf, kurzfristige Kontextinformationen in den Speicher zu speichern. Wenn diese Informationen fehlen, wird der Kontext wieder rekonstruiert.Nur die neuesten 128 Tokens werden wiedergegeben.Der Bericht geht davon aus, dass eine solche bewusste Umwandlung von Qualität in Erinnerung dazu führen kann, dass die Fähigkeiten unter extremen Bedingungen beeinträchtigt werden. Es gibt auch noch keine unabhängige Überprüfung: Es gibt keine Benchmarkdaten von Drittanbietern bezüglich der „harten Agenten“.Es werden keine Kosten pro Token oder Latenzwerte angegeben.Die Anzahl der Bytes pro Token ist eine Spezifikation – keine messbare wirtschaftliche Ergebnisdarstellung.

Welche ist die richtige Interpretation bezüglich der Speicheranforderungen: 75% weniger HBM – oder kaum weniger?

Der entscheidende Unterschied ist, ob es um den KV-Cache oder um die Anforderungen an die Speicherverfügbarkeit geht. Der Cache ist ein Teil des Speichers, der für die Betrieb dieser Modelle benötigt wird. Die anderen Teile – die Hunderte von Gigabyte an Daten, die in HBM gespeichert werden müssen, um ein solches Modell zu betreiben, sowie die zusätzlichen Anforderungen bezüglich der Inferenzleistung – bleiben unberührt durch diese Änderung. Eine Reduzierung des Scratchpad von 75% bedeutet nicht eine Reduzierung der HBM-Verkaufsmenge um 75%. Niemand behauptet außerdem, dass die Gesamtanforderungen an den Speicher um diesen Betrag abgenommen haben. Das ist die erste und wichtigste Korrektur bezüglich des Schlagzeugs.

Das zweite ist die Richtung, in der die Effizienz wirkt. Aus preislichen Gründen verringert die Maßnahme von DeepSeek die Kosten für das Betreiben eines KI-Agenten und die Wiederverwendung seines Kontexts über einen langen Zeitraum. Günstigere Kosten pro Anfrage sind historisch gesehen dazu führend, dass die Gesamtkonsumtion von Rechenleistung und Speicher erhöht wird – nicht dass sie abnimmt. Wenn die Anzahl der Agenten und Nutzer schneller wächst als die Speicherressourcen, die jeder einzelne benötigt, dann steigt die Gesamtspeicheraufnahme – auch wenn der Einfluss jedes Modells abnimmt. Das ist also das Problem, das gelöst werden muss. Die Berechnungen im Bericht bestätigen dies.Achtmal kleiner ist nicht automatisch achtmal günstiger.Sobald die Kosten für Berechnungen, Netzwerke und die Verwendung von Hilfsmitteln berücksichtigt werden.

All das macht den Anstieg der Aktienkurse nicht falsch. Vielmehr ist es ein Ausdruck dessen, wie diese Aktien bewertet wurden. Es handelt sich dabei um eine Gruppe von Unternehmen, die bereits enorme Wachstumszahlen erzielt haben: Micron ist im Jahresvergleich etwa um 240% gestiegen, und ihr Umsatz ist fast verdreifacht worden. Der Bruttomarge liegt über 70%, während die Betriebsmarge nahe 66% beträgt. SanDisk ist im Jahresvergleich um etwa 600% gestiegen. Beide Unternehmen werden jeweils etwa 12-mal so hoch bewertet wie ihr Umsatz in den letzten Quartalen. Wenn eine Aktie solche Werte erreicht hat, dann wird ihre Bewertung nicht mehr an die aktuellen wirtschaftlichen Bedingungen gebunden sein, sondern an das Wachstum des nächsten Quartals – was genau die Anknüpfungspunkte für die Behauptungen bezüglich der Effizienz sind.

Die ehrliche Antwort auf die Frage „Was bedeutet das für die Erinnerung?“ ist also enger als die Schlagzeile und breiter als die Panik. Es beweist jedoch nicht einen Angebotskollaps: Der Rückgang betrifft nur einen Teil der Kostenstruktur; ein Teil davon ist eine Annäherung. Zudem neigen kostengünstigere Agenten dazu, mehr Agenten zu produzieren. Doch es zeigt auch, dass die Werte, auf denen diese Bewertungen beruhen – wie viel Speicherbedarf pro Einheit von Intelligenz benötigt wird – nicht mehr ein eindeutiger Wert sind. Die Lösung wird sich zeigen, wo sie immer bei der Erinnerung auftritt: Ob die durch Effizienz getriebenen Agentenzahlen den schrumpfenden Bedarf an Speicherplatz übersteigen. Bis diese Messgrößen festgestellt sind, sollte man die 75% als eine Art „Spezifikationsdatenblatt“ betrachten, das die Erwartungen neu bewertet, und nicht als eine Zahl an Bytes, die aus der Branche verschwunden sind.