AI推論への移行は、今やソフトウェアの話題となっている。Datadogがその兆候を示している。

クラウドインフラグループがメンバーを追加する際、一般的にプレスリリースを見てそのまま進むことが多いです。クラウドネイティブコンピューティング財団が6月に行った発表内容Kubernetesを管理している組織であり、企業がAIをどのように利用するかについての規範となる存在です。この組織は、業界自身が次のAI投資の方向性をどう考えるかを示しているので、再検討する価値があります。つまり、AI投資はトレーニングから推論へと移行していくということです。

財団のデータがその変化を具体的に示しています。現在、生成型AIを利用している組織の66％が、少なくとも一部の推論ワークロードを管理するためにKubernetesを使用しています。また、コンテナ利用者のうち82％がKubernetesを本番環境で使用しています。これは、製品の移行における制度的な変化です。企業はAIの構築をやめ、実際にAIを活用するようになったのです。

ほとんどの投資家が見落とすのは、この移行が価値の所在にどう影響するかという点です。トレーニングは数ヶ月にわたる作業であり、モデルが完成するまで続けられる大規模な処理です。これは、NvidiaのCUDA技術が絶対的な優位性を持つ段階であり、チップ自体が重要な要素となります。一方、インフィルテーションは逆で、常に動いており、遅延やコストに敏感であり、何千ものマシンによって行われる作業です。その目的は、単一のクエリを安価で信頼性の高いものにすることです。トレーニングではハードウェアが制限要因となりますが、インフィルテーションでは、そのハードウェアを予測可能にするソフトウェアが重要な役割を果たします。これは、単一のチップ設計者が決定できない効率性の問題です。

それが、CNCFが静かに記録してきたメカニズムです。しかし、まだ初期段階に過ぎません。組織のうち、生成型AIを毎日継続的に利用しているのは7％程度であり、44％はKubernetes上で全くAIを利用していない状態です。この展開は本当に進行中のものです。つまり、ソフトウェア層が市場がその変化を評価する前に成長できるような状況です。

Datadogは、推論ソフトウェアの分野における最も純粋な公開テストです。

そのソフトウェア層の最も明確な実例が、このような機器を監視するためのツールを提供しているオブザーバビリティ企業であるDatadogです。Datadogは、生産環境で実行される推論処理の運用層、つまりGPUの使用状況、熱量、電力消費量、インターフェースなどを把握するために、GPUモニタリングシステムを開発しました。そして、最近の決算説明会で同社の経営陣は、同社が…と述べました。重心は、生産と推論にある。トレーニング段階ではなく、同時に調査も行っている。

業績が実を結び始めました。6月30日終了の四半期において、Datadogは報告しました。11.2億ドルの収益で、前年比36％の増加となりました。— そして、より明確なのは…11.4%の順次成長率で、2022年初頭以降で最も速い四半期対四半期の成長率です。経営陣は、この加速の様子を広範囲にわたるものだと述べています。AI専用の顧客を除いた成長は20％台にまで急増し、AI専用の顧客はその上に位置しています。顧客数は750社以上で、そのうち8社は年間定期収入が1000万ドル以上です。また、上位10社のAI事業者はすべて有料顧客です。これは、ある大企業にシャベルを売り込むという話ではありません。実際には、AIを安定して利用するために支払いを行う企業の数が増えているのです。これこそが、トレーニングからインферenceへの移行が求めていることです。

なぜ実際の論文には依然として価格のチェックが必要なのか

ここに、成長率よりも重要な分析の部分があります。このような実行形態は現実的ですが、株価はすでにその故事の大部分を吸収してしまっています。Datadogは今年初めまでに約66％上昇し、過去4ヶ月間では約68％上昇し、評価額は後期売上高の約19倍になりました。市場がほぼ受け入れた論点は、防御するのではなく、進化する必要があります。短期的なリターン曲線が重要な問題です。

また、後半の成長が見た目の成長率よりも緩やかであることも明らかになっています。Datadog自身の次四半期の予測によると、年間ベースの成長率は20％台になるとされています。つまり、四半期ごとに成長が鈍化しているということです。そして、同社はこの見通しを考慮して対策を講じているのです。最大の顧客による使用量の減少それが、利用に基づく請求の二面性です。監視や請求を管理するために必要なAIの複雑さは、大きな消費者がログやデータに対して過剰な料金を支払っていると判断した時には、解消されるのです。

つまり、正直な説明というのは条件付きのものです。テーゼや推論は、ソフトウェア層への価値の移動を意味しており、Datadogもその中心に位置しています。これは実際の証拠によって裏付けられています。ただし、価格が2/3の割合で上昇した後、19倍になった今、その価格設定が本当に適切なのかどうかが問題です。この展開は実際に起こっており、忍耐力を要求しますが、複数の要因がその利益を押し上げているのです。需要というのは問題ではありません。今日の価格が、AI業界全体と比べて、新しい資本を投じるのに最適な場所かどうかが重要です。