DeepSeekの75％HBM「切り下げ」は見出しよりも狭く、拡張メモリの価格も上昇した。

今週のニュースでは、中国のAIラボであるDeepSeekが、一つ目の事柄においてメモリの必要量を75％削減し、もう一つ目の事柄では87.5％削減したと報じられました。そのため、メモリ関連の株価は急落しました。ミクロンは金曜日の朝に約5％下がり、サンディスクは約4％下がりました。サムスンも同様で…SKハイ닝スはソウルで3％以上下落したもし、AIメモリの名前を手に入れたり、観察したりするなら――過去1年間で最も有益な取引であった分野ですが――問題は、より安価なモデルが実際にメモリ需要にとって脅威となるのか、それとも販売を促すための良い口実に過ぎないのかということです。

実際の数値に基づいて考えましょう。なぜなら、見出しにある数字は実際の意味を過大評価しているからです。75％と87.5％という割合は、モデルのKVキャッシュに対するものであり、一般的なデータセンター内のメモリには適用されません。KVキャッシュとは、AIが既に読んだ会話や文書、コードの記録を保存する場所です。そのため、AIはそれらを再利用できるように、常に利用可能な状態にしておく必要があります。DeepSeekによると、新しいV4.1-Flash版では、このグローバルキャッシュが大幅に削減されます。1トークンあたり890バイトV4-Flashの場合は3,514であり、V3.2の場合は48,068です。その結果、HBMを利用する部分は全体の4分の1に過ぎず、永続的なSSDを利用する部分は約8分の1程度になります。

それは本物の工学成果であり、1年前に私たちが指摘したトレンドに沿っています。メモリはコンピューティングから切り離されている高価なHBMからデータが漏れ出る問題があります。ここで注目すべき点は、このバージョンでどのように対処されたかです。単にキャッシュを安価なSSDに移動させるだけではなく、DeepSeekは両方の層でのキャッシュサイズを同時に縮小しました。そのメカニズムは、新しい非対称的なエンコーダ/デコーダ構造です。5520億個のパラメータがあるが、各入力トークンに対しては80億個のみが実際に使用されている。そして、1つの出力に対して160億。さらに、数百個の関連する位置のみを読み取るという、あまり注目されない状況もある。グローバルキャッシュの4ビット量化.

注意すべき点は、SSDの節約効果が純粋な効率性によるものか、それとも近似値によるものかということです。DeepSeekは、短命なスライディングウィンドウコンテキストをストレージに保存することをやめました。そして、その状態が欠けている場合には、再構築して対応します。最新の128個のトークンだけを再再生する— この報告書では、意図的な「記憶のための品質」の取り扱いが、極限状況下での能力の低下を引き起こす可能性があると指摘されている。また、独立した検証もまだ行われていない。ハードエージェントのケースについては、第三者による評価も行われていない。トークンあたりのコストやレイテンシーの数値は公表されていない1トークンあたりのバイト数というのは、測定された経済的結果ではなく、規格上の定義に過ぎません。

メモリ需要の正しい読み方は何でしょうか？75％減少するのか、それともほとんど減少しないのか？

この区別が重要なのは、KVキャッシュとメモリの需要の違いを明確にするためです。キャッシュは、これらのモデルを動作させるために必要なメモリの一部に過ぎません。他の部分、つまり、この規模のモデルを実行するためにHBMに必要な数百ギガバイトの重みデータや、そのモデルを学習させるためのクラスタ、そして推論処理がどれだけ増加したかということなどは、このリリースによって変わりません。スクラッチパッドの使用量が75％減少したとしても、HBMの販売量が75％減少したわけではありません。また、メモリの需要全体がその程度減少したという主張もありません。これが、見出しにある数字に関する最初で最も重要な修正点です。

第二に、効率性がどの方向に作用するかです。価格設定の観点から言えば、DeepSeekのこの措置により、AIエージェントを稼働させ、長時間のセッション中にそのコンテキストを再利用するためのコストが低減されます。より安いインферenceコストは、実際には総計算能力やメモリ消費量を増加させる要因であり、それを減少させる要因ではありません。もし、エージェントやユーザーの数が、各エージェントが必要とするメモリ量よりも速く増加すると、各モデルの負荷が低下しても、総メモリ需要は上昇します。これが、問題を解決するための手段です。そして、報告書の数値も、キャッシュが…ということを認めています。8分の1小さくなったからといって、8分の1安くなるわけではない。一度計算し、ネットワークやハーベスターのオーバーヘッドが計上されます。

これらのことによって、売り上げが悪化しているということはありません。むしろ、これら株価の動きは、その株がどのように評価されているかを反映しているだけです。ここに挙げられている企業は、既に驚くべき成長を遂げています。例えば、マイクロンは今年初めから約240％上昇しており、前年度の収益もほぼ3倍になっています。また、粗利益率は70％以上で、運営利益率は約66％です。サンディスクは今年初めから約600％上昇しており、どちらの企業も前年度の売上高に対して12倍の値段で取引されています。ある株価がそんなに大きく変動した場合、その評価は今日の経済状況に基づくものではなく、来期の成長に依存するようになります。これこそが、根拠のない効率性の主張が試みるものです。

ですから、「メモリとは何か」という問いに対する正直な答えは、見出しの表現よりも狭いものであり、同時にパニック状態よりも広範なものです。これは需要の急落を証明するものではありません。価格の低下は、コストラインの一部に影響を与えるだけで、その一部は近似値です。また、安価なエージェントは、より多くのエージェントを生み出す傾向があります。しかし、現在の評価が基づいている「微分」の仕組みは、知能1単位あたりに消費されるメモリの量が、もはや一方向の減少ではないことを示しています。解決策は、常にメモリに関して起こること、つまり、効率性を重視したエージェントの数が、個々のトークンの使用量が減少する速度を超えるかどうかによって明らかになります。それが測定されるまでは、75％という数値を、業界から消失したバイト数としてではなく、期待値を再評価するための指標として扱うべきです。