Nvidiaの推論処理に関する活動は、実際の証拠です。

Nvidiaの推論処理に関する活動は、実際の証拠です。

世界で最も価値の高いテクノロジー企業にとっては、23億ドルは必要ない。彼らが求めているのは、自社のGPUの後の展開である。ですから、今週に行われた韓国のチップメーカーとの協議については、供給チェーンに関する情報として捉えるべきだ。つまり、価格ではなく、その方向性を考慮すべきなのです。

ブルームバーグは、NvidiaはRebellionsと初期段階での協議中です。ソウル在住のデザイナーで、AI推論用のニューラルプロセッシングユニットを開発しており、評価額は約23億ドルとされている。その対話内容についても報じられている。技術的なパートナーシップから、買収の可能性へそして、反乱のCEOであるスンギュン・パークは、その交渉が明らかになった同じ週に、Nvidiaのサンタクララ本社でジェンセン・ホアンと会いました。

これは孤立した噂ではなく、また小さな情報でもありません。約8ヶ月ぶりに、Nvidiaと競合企業の推論技術間で起こった重要な取引です。12月には、Nvidiaが…約200億ドル――記録上最大の取引です。2019年にMellanoxに費やした70億ドルをほぼ3倍に相当する金額です。これは、Groqの推論技術に対する非排他的ライセンスのためのものであり、Groqの技術スタッフのほとんどが雇用されました。その中には、Googleのテンソル処理ユニットの開発者の一人である創業者ジョナサン・ロスも含まれています。両社はこの協定について提案しました。高性能かつ低コストな推論を実現するための共通の努力です。.

なぜ推論が新たな戦場になるのか

ここでの定義は、論点を明確にするためのものです。なぜなら、「推論」がこのプロセスで主な役割を果たすからです。トレーニングとは、モデルが大量のデータから学習する段階です。一方、推論とは、ユーザーが製品に触れるたびに行われる段階です。つまり、推論はユーザーの使用回数に応じて行われるのです。そのため、推論の効果はユーザーの利用度に比例して増加します。スタンフォード大学のAIインデックスに基づく業界の予測によると…2029年までに、AIコンピューティングの約3分の2に及ぶ段階で推論が行われる。そして、AIシステムの生涯コストの80％から90％がそこに費やされる。マッキンゼーはそう見ている。2030年までに、データセンターの需要の40％以上を占めるような推測が行われる.

その回転が、重要な市場構造の変化です。トレーニングにおいては、CUDAやそれを支えるソフトウェアスタックが大きな障壁となります。開発者基盤やライブラリ、切り替えコストなどが障害となり、正面からの攻撃は無意味です。一方、推論処理の場合は異なります。レイテンシを減らし、1トークンのコストを削減し、全体の電力消費を制御する必要がある場合、シリコン自体が重要になります。まさに、GroqやCerebras、そして今の韓国のスタートアップが常に攻撃してきた分野です。

NvidiaのCheckbookが主導権を譲る

このパターンが注目に値するのは、Nvidia自身もその点を認めていることです。Groqの取引は買収ではなく、ライセンス契約として行われました。そのため、Groqのクラウド事業は独立した存在であり、EU、英国、中国での反トラスト規制からも逃れることができました。これは、自社がコントロールしている企業にとって合理的な選択でした。AIチップ市場の約90％業界関係者は、この取引を、NvidiaのGPU処理性能における弱点を認めるものだと考えている。Groqのアーキテクチャは、そのような問題を解決することを目的としている。言語モデルワークロードにおける遅延に敏感なデコーディング部分ジェンセン・ホアン自身は、NvidiaのアーキテクチャをGroqと組み合わせることを、Mellanoxのネットワーク技術を統合するのと同じように行ったと述べています。つまり、独占企業は、9年も前に設立されたスタートアップから得られる技術をライセンスするために200億ドルを投じたのです。コンピューティングの進展は、支配的な企業が資金を投じている場所で最も速く進むのです。

『Rebellions』は、そのテンプレートにほぼ完璧に合致しています。この会社は、エネルギー効率の高い処理を主な特徴とするチップ設計会社です。つまり、トークンあたりのコストを競争の軸とし、学習コストを重視するのではなく、エネルギー効率を重視しているのです。彼らの次世代のRebel-Quadチップは、144GBの高帯域幅メモリを1つのパッケージ内に集めたチップレットアーキテクチャを採用しています。サムスンのファウンドリで製造されました。そして、その投資家リストは、韓国の半導体業界のチームのようです。サムスン、SKハイニックス、アームなどが含まれています。政府の国家成長ファンドで、約1億6600万ドルが承認されました。韓国の「K-Nvidia」主権プログラムにおける初の直接投資である。

この点で、この噂に関するほとんどの解説は間違っています。レビエンズは、静かに手を打てるようなベイエリアの標的とは言えません。それは、政府の資金や全国規模の工場、国際的な企業などが支援する優良企業です。来年の韓国での上場を目指す計画である。おそらく、アメリカでの販売も可能でしょう。国のプログラムによって支えられる戦略的資産は、ソウルが手放すような資産ではありません。Groqの戦略とは、技術をライセンス化し、人材を獲得するだけで、会社の企業構造はそのままにしておくというものです。これは、買収よりも起こりやすい結果であり、ニューディビジョンにとってはほとんどコストがかからない方法です。

次の市場を越える通行料道路

算数上の観点から見ても、完全な買収であってもNvidiaにとってはほんのわずかな誤差に過ぎない。Ainvestの市場データによると、その市場価値は5.2兆ドル近くに達している。23億ドルというのは、その数値の0.04％に過ぎず、また、1年間の自由現金流量の約2％に相当する。Nvidiaが生み出す自由現金流量は1190億ドル以上である。これは成長を求める企業が買収を行うことではなく、競合企業をライセンス供与者に変えるような企業である。重要なのは、今や競争相手が十分な資金を持っているという点だ。競合するチップ開発スタートアップが、記録的な資金を調達している。注意が効率的な推論の実施に移るにつれて、NvidiaはIntelと同様の戦略を採用している。データセンターやPC製品の開発に協力している彼らを手に入れる代わりに。

この戦略は、市場構造上の「通行料」のようなものです。つまり、すべての脅威に対して対抗するのではなく、優秀なライバルを雇い、彼らの技術を利用し、AMDやBroadcom、そして特殊なチップを製造する大企業の手から技術を守るのです。

では、このような小さな噂から投資家は何を得るべきでしょうか？まず、その噂を過大評価してはいけません。今は段階的な交渉の時であり、最終的な合意が得られるとは限りません。また、それを弱みとして捉えてもいけません。Nvidiaがインフィーナススタートアップを買収するのは、利益を失っているからではなく、インフィーナス分野が競争の中心になると判断しているからです。そして、Nvidiaにはその判断を下すための財務状況があります。つまり、Nvidiaの行動自体が、トレーニングからインフィーナスへの移行が実際に起こっており、既に進行中であることを示しています。

もし、各企業が何の協力関係も持たず、ライセンスもパートナーシップも才能もない状態になったら、Nvidiaは推論アーキテクチャへの支払いを停止するでしょう。そうなれば、Groqの契約も一時的なものに成り下がり、競合企業は現在の優位性を保持し続けることになる。つまり、トークンあたりの遅延やコストの面で、既存の企業よりも優位な状態が続くのです。

Nvidiaの株主にとっては、この状況は変わりません。売上は年々約70％の割合で増加しており、運営利益率は64％近くです。さらに、成長している市場において、独占企業が少数のシェアを失うことも起こります。Ainvestの市場データによると、この週に株価は16％の上昇後、約4％下落して215ドル程度になりました。これは特定のニュースによる反応ではなく、5.2兆ドル規模の市場の大きな変化の結果です。

しかし、注目すべき点は、ドルが何らかの推論を追跡しているということです。つまり、Rebellionsチップ内の高帯域幅メモリやカスタムシリコン、そして各推論ラックが消費する電力といったものが、その推論の基盤となっているのです。そこが、次の成功者となる場所です。そして、Nvidiaが自社で全てを作り上げるのではなく、技術をライセンス化することで、今どこに興味深い計算が存在するかを明確に示しているのです。

議論の焦点は、ニュージャクティブがこの10年間を通じてこのサイクルの中で重要な役割を果たし続けるかどうかということではない。問題は、市場がトレーニングからインферenceへの移行を、同社が投資している方法で評価しているかどうかである。このAIサイクルにおいて、需要が問題となることは一度もなかった。問題は、市場構造が変わる中で、どのアーキテクチャが利益を得られるかということだ。ニュージャクティブはその変化に向けて動いているが、市場の多くはまだ価格目標を読み取っている状態だ。私は、どのシグナルを信頼するかを知っている。