AI Boomは、実際にはほとんど使用されていない能力を売り出している。Stackletの新しい「Benchmark」は、この種のサービスが初めて販売されるものだ。

9月10日、Stackletというクラウドガバナンススタートアップが「クラウドAI FinOpsベンチマーク「これは、GPUやAIモデルインフラにおける無駄を『発見し、修正し、防ぐ』ためのテスト済みの対策です。正しく理解する必要があります。これはマーケティングツールであり、製品ではありません。公開するものではなく、販売するものであるベンチマークは、実際にはポジショニングのための文書に過ぎません。実際に興味深いのは、Stackletがそれを販売する市場があると考えている点です。なぜなら、そのビジネスは、AI業界がほとんど気にしないような数値に基づいているからです。」

Stackletは、クラウドルールをコードとして実行するオープンソースのポリシーエンジンであるCloud Custodianの商業部門です。そのアピールは、AIワークロードが今や…ということです。企業クラウド環境における最も急速に拡大しているガバナンスのギャップなぜそのギャップが実在的で測定可能なものであり、また、Stackletでない企業の投資家にとって重要なのか。

販売されている製品は、実際の問題です。

根本的な問題は、AI開発における最も奇妙な事実です。業界は膨大な資金をその設備投資に費やしていますが、一度購入された後、その設備はほとんど使われないままです。Cast AIの2026年の調査による生産データによると、エンタープライズ用Kubernetesクラスター全体の平均GPU利用率は、おおよそ5%調査対象者を考慮しても、それは丸め誤差ではない。実際には、30,000ドル以上の価値を持つ加速器が数パーセントの時間だけ動作しているのだ。より広範なクラウド環境においても同じことであり、業界の追跡データは正確である。2019年以降、毎年27～32％がクラウドの「無駄費用」となっている。一方、Gartnerによると、2025年のクラウド市場の規模は6750億ドル以上になると予測されている。.

そのインセンティブが、まさにそのような行動を引き起こすのです。この機器を利用するハイパースケール企業たちは——2026年の投資費用は約6000億ドルであり、そのうち約75％がAIに関するものです。– 容量を利用することで勝利を収める。たとえテナントがそれを使用しなくても。一方、テナントは、次の価格設定時にGPUが不足することを恐れて、GPUを溜め込んでしまい、そのまま使わない状態にしてしまう。チェーン上の誰も、機械が暗いことに気づくために給料をもらっているわけではないので、誰も気づきません。

それが真空Stackletが埋められる過程であり、その例からも、データの処理がどれほど機械的かがわかります。VRAMに過剰な量のデータが割り当てられている場合、そのような状況を防ぐためのポリシーが必要です。月100,000ドルの費用をかけて、月に約10,000ドルを節約できる。同社によると、2つを組み合わせることでGPUの使用費が約20％削減され、利用度の低い作業では2台のH100を1台に減らすことで、費用は50％も減少するという。そのベンダーの割合を信じるかどうかは別として、方向性は明らかであり、その仕組みも単純です。つまり、恐怖によって動かされる無用なハードウェアであり、その無用な部分に対して責任を持つ人は誰もいません。

なぜそのギャップが無視できないものになっていくのか

GPUの無駄を隠すための要因が、今では逆にGPUにとって不利な状況になっている。従来のFinOpsでは、年間の調達プロセスや財務部門による管理が行われていた。しかし、AI推論の場合は、支出がトークンごと、分ごとに計測され、開発者やデータサイエンティストが主導して行われる。そのため、財務部門は何も見ることができず、2週間のスプリント内で大きな変化が起こることもある。静的な予算制御では、これを捉えることは不可能であり、不適切に設定されたGPUや暴走するモデルエンドポイントの影響範囲は、手動で操作するチームでは対処できないほど大きくなる。

ここで「ベンチマーク」が重要な役割を果たす。6月にも、StackletはAI-FinOpsの測定フレームワークを構築し、GPUガバナンスにおいて「良いものとは何か」を定義し、今後2〜3年間の調達に関する議論を方向付けることにした。ベンダーたちの合意によれば、AIの投資が実際の予算として行われるようになるにつれて、ガバナンスの仕組みが必須となっている。このベンチマークが本当に有効かどうかは別の問題であり、標準化が必要だという報告が出ていることは、業界がその問題を標準化する価値があると判断した証拠である。

投資家にとっての意味

小売投資家は、Stackletを購入するためにスプレッドシートを使ってはいけません。それは私企業ですから。2020年にクラウド・カスティディアンの創設者たちによって設立されました。、それによって問題が生じている1800万ドルのシリーズAそして、一つ1450万ドルのシリーズB— 公開株がなく、報告される収益もない。また、その評価額についても、ベンチャー投資家たちの頭の中にのみ存在するだけだ。直接買うものは何もない。Stackletを通じて「AI-FinOpsのリスク」を売っている人は、実際にはマーケティング上の資産を売っているに過ぎない。

投資可能な情報とは、その発表の存在によって確認される、その企業に関する情報のことです。できる購入する。GPUの利用状況に関するデータによると、実際にはほとんどの能力が有効に利用されていない。また、クリーンアップを行うためのガバナンスツールを提供する新興産業も形成されている。これは双方にとって不利な状況だ。巨大企業や能力提供業者にとっては、ほぼ中立的な状況である。彼らはシリコンを賃貸しているだけなので、無駄が彼らの問題ではなく、代金を支払う側の問題だ。実際のリスクは、支出が利益に変わるという前提があるかどうかだ。つまり、資金を消費するAI企業や、数％しか利用されていない投資戦略の持続性の問題だ。

もし、一つの変数を保持したいのであれば、これを保持しましょう。それはキャプексのヘッドラインではなく、利用度です。実際の利用度が適切なレベルに向かっている場合、そのビルドアップは経済的に成り立つものです。一方、容量が一定で変わらない場合、その投資されたお金はどこかに記録される必要があります。「ベンチマーク」というのは単なるノイズに過ぎません。5％というのはシグナルであり、それがスタートアップが空のGPUを売却することをビジネスだと思う理由です。