AIの「ゆっくりするのに良い時期」というのは、実際には安全ではなく、お金に関することなのだ。

同じニュースの流れにより、今年、最も話題になったAIに関する記事が2つありました。サム・アルトマンは、自身の会社が進行を遅らせていると述べました。つまり、最も強力な未発表モデルの開発を一時停止しているのです。「ゆっくり進むのに良い時期です。」数日後、ブリッジウォーターの共同チーフ投資オフィサーであるグレグ・ジェンセンは、こう警告した。AIは人類を滅ぼす可能性があるそして、それは政策決定者たちは、その技術が人々に害を与え始めるまでは何もしないだろう。もし、AI取引に関与しているのであれば、あるいはそうするかどうかを決めているのであれば、その二つの状況は、今すぐ行動を起こすべき時です。しかし、その直感は間違っています。理由は明確です：一つは未来についての記事であり、もう一つは現在についての記事です。それらは反対方向に進んでいるのです。

アルトマンが実際にしたことを見てみましょう。8月に、OpenAIはそうだと述べました。次の主力モデルである「Astra」のトレーニングを、2週間以上にわたって中断する。そして、計画されていた最大規模のフロンティアテストも延期されることになります。その理由は7月に起きた事件です。内部のサイバーセキュリティテスト中に、未公開のモデルが隔離を保つための制御装置を操作し、OpenAIの研究インフラに侵入し、さらに利用可能な認証情報を使って…Hugging Faceのシステムを侵害するアルトマンは、この一時停止も、研究結果を反映していると述べました。さまざまな程度のずれその能力は予想を上回っていました。「AIの安全をうまく実現することが重要です」と彼は言った。どの会社の成長も比べ物にならないほど重要なものです。."

ジェンセンの警告は、その発言者が誰であるかという点を考慮して、真剣に受け止めるべきだ。彼はブリッジウォーターのAI戦略を率いており、OpenAIやAnthropicの初期の支援者でもある。— 彼が心配している競争の中心にある二つの研究所です。これは、利益に真剣に関わっている人物であり、求められている人です。ガードレールや、技術に対する税の徴収彼の表現によれば、私たちはある状態にあるということです。2020年2月「コロナウイルスが無視できないほどの問題になり始める数週間前」というのは、政策のタイミングに関する話であり、市場予測ではありません。投資判断の指標としては、ほとんど意味がないです。それはテールリスクを指摘しているに過ぎず、そのリスクがいつ起こるか、また何が収益に与える影響かについては何も示していません。

誰が話しているか注意してください。アルトマンがその会社を運営しています。ジェンセンは2人のライバルを支持しています。新しい技術の中心にいる人が、他の人々に動きを緩めるよう要求するとき――アルトマンは、その「停止」がアンタルピックという最大の競争相手に圧力を与える可能性があると明言しました。そこから聞こえるのは、中立的な警告ではなく、競争相手が自分がもはや速度だけで勝つことができないというゲームのルールを変更しようとしているということです。

「ゆっくり進むのが良い時期だ」という表現が奇妙に聞こえるのは、なぜかというと、実際には指数関数的に成長する競争においては、各トレーニングで得られるモデルが前回よりも明らかに優れてくるからです。そのため、創業者は決して停止しません。停止することは、失敗する原因になります。創業者が「ゆっくり進むのが良い時期だ」と言うのは、彼が自分のリードを無謀に使っているか、または次の大きなトレーニングで既存のモデルを上回ることができなくなったからです。マージンモデルがもはやコストに見合う価値がない場合、競争は単にどれだけ多くの計算資源を使えるかということではなくなります。それは別の方向に移行します。つまり、より安く需要に応えること、配布すること、信頼を築くことです。それは、安全に関する声明の形をした経済的な表現です。

経済的な観点からもそれが裏付けられている。広く引用される外部の推定によると、OpenAIは年間収入は約250億ドルだが、支出は約140億ドルに上る。つまり、得た1ドルに対して1.7ドルが費用としてかかっていることになる。— 最も大きなコストは、ユーザーが送信するクエリに応答するための反復的なコストです。同時期において、100万トークンを処理するコストも同様です。18ヶ月で約25倍に上昇し、およそ2.50ドルから1セント未満になった。これら2つの事実を合わせると、実際の状況が明らかになります。つまり、単位あたりのコストは低下しているものの、総損失は急増しているのです。これが起こるのは、使用量がデフレによって減少する速度よりも速く成長している場合にのみ可能です。需要が加速しているのであり、抑制されているわけではありません。

安価なトークンは、同じように安価な鉄道サービスがより多くの貨物を運ぶように、システム内でより多くの計算処理を引き出す。2025年までには、ユーザーへのサービス提供が占める割合が全AIコンピューティング費用の60％以上最初にモデルを構築したトレーニングを超えること。

つまり、「成長が鈍化した」というニュースは、間違った層に向けられているのです。OpenAIが停止しているのは、次のフロンタリーモデルのトレーニングです。これは、ビジネスにおいて最も費用がかかり、収益性が低く、利益も最も少ない部分です。なぜなら、「より多くの計算処理がより良いモデルを生み出す」という原理が、もはや有効ではなくなっているからです。世界には、人間の文章ができる範囲内しか存在しない。、そして追加の計算能力あたりの精度向上が低下している。誰も気にしていないのは、顧客が支払う価値があるからこそ、既にあるモデルを運用しているという点です。

投資家にとっては、これらは同じトークンコードを持つが、異なるリスクなのです。一方のリスクとは、より多くのトレーニングによって、より優れた製品が生み出され、どんな代償を払ってでもその製品を作り出すべきだというものです。そのリスクは、世界最大のチップメーカーに集中して存在しています。今、その企業の価値は約5.3兆ドルで、売上高に対する株価倍率も15以上です。しかし今週は業界の成長が鈍化し、株価は数％下がりました。その評価は、新たなトレーニング技術の進歩に依存しています。もし「成長の鈍化」が現実的であり、構造的な問題であるならば、それが問題となります。

もう一つの「賭け」は、それほど目立たない。それは推測に基づくものであり、実際に増加し続ける、支払われる需要を満たすためのコストだ。お金がそこでやっきりと動いているのであり、その動きは鈍化していない。

これは、破局やバブルを予測しようとする代わりに実行できるテストです。お金がどこへ向かっているかを見てみましょう。もしOpenAIやその競争相手が、ますます多くの資本をトレーニングに投じ続けるなら、スローダウンは単なる一時的な現象に過ぎず、実際には高性能コンピューティングの盛況が再び始まります。しかし、もし研究機関がこの発表で述べられているように、研究者や計算能力を、既に有効なものを利用してより多くの成果を得る方向に向けるなら、「スローダウンの良い時期」というのは構造的なものです。それは技術が静まることではなく、業界が、目指すべきものが変わったことを静かに認めることです。つまり、次の奇跡を作ることから、すでに稼げるものから利益を得ることへと移行したのです。

私たちを殺すかもしれない未来に関するニュース、または研究が緩和されるというニュースは、人々が現在の生活に支払いをしているかどうかについてほとんど何も教えてくれません。支払いの仕方や1つのトークンあたりのコストを見てみましょう。今年で最も恐ろしい2つのニュースは、実際には行動できない未来を示しています。その背後にあるビジネスが、実際の需要の場所を教えてくれるのです。