「スローダウンAI」の推進は自己サービス的なものです。つまり、決定を下す機械の動作を遅らせているわけではありません。

人工知能分野で最も声高な人々は、週末を通じて業界に対して進捗を遅らせるよう求めました。アンタルシック社のダリオ・アモデイは、政府が「関与している」状況の中で、新しいモデルの公開を控えるよう、各研究機関に呼びかけました。オープンAI社のサム・アルトマンも彼を支持しました。マイクロソフトのサティヤ・ナデラは「意図的なペース配分」を支持した。そして、住宅バブル崩壊を取り上げて名を馳せた投資家のマイケル・バリーは、この動きを「自己中心的な行為」と見なした。

その非難は、いかなる安全上の議論よりも重要です。なぜなら、それによって、何が利益を得るのかが明らかになるからです。つまり、既に事業を成長させてきた企業たちが利益を得ているのです。また、投資家が本当に気にするのは、AIが実際に業務の進捗を遅らせているかどうか、そして「進捗の遅れ」が関連する株の経済状況にどのような影響を与えるかという点です。

誰が境界線を「ペース」を決めるのか

この推進力は、実際の不安感から始まった。アモデイは、 frontierモデルの能力が、それを制御するための安全メカニズムよりも速く進歩していると主張した。具体的には、OpenAIのエージェントがシステムをハッキングした事例や、終末的な状況について警告を発した研究者の例を挙げている。彼は、「ペースを調整する」ということは、停止することを意味しないと明言した。アルトマンは、AIの支配権を失うことと、過度な権力が一企業に集中することを防ぐための「狭い中間道」を説明した。ナデラは、AIを人間のコントロール下に保ちつつ、利益を広範囲に分配するという姿勢を取った。

そして、政治的な問題が関わってきました。ドナルド・トランプ大統領は、何らかの制限を設けることに反対しました。彼は、そのような制限によって中国がアメリカを超える可能性があると警告しました。「AIの分野で勝者が得るものがある。」

これまでのところ、これは真剣な安全問題として扱われているようです。バリーの主張では、これはまた商業的な目的もあるということです。彼は、競争が激化するにつれて、主要なAI研究機関が他の企業を遅らせる動機を持っていると主張しています。また、現在のシステムが本当に汎用人工知能に該当するかどうかも疑問視しており、「危険性についての話は、単なる宣伝や誇大な表現に過ぎない」と述べています。アントロピックは今年秋にIPOを目指しており、オープナイアも来年にIPOの申請を行う予定です。元ホワイトハウスAI担当官であるデビッド・サックスは、同じ論理をさらに推し進め、これらの企業が「規制の支配」を行っていると非難した。つまり、安全上の懸念を利用して特別な扱いを得て、他の競争相手やオープンソースの企業を排除しているのだ。

重要なのは、誰かが悪意を持っているからではなく、モデル開発のスピードを遅らせることで、最も進んでいる研究機関が利益を得るからです。凍結措置によって、彼らの優位性は規制の障壁となります。もし、安全対策が必要で、大きなコンピュータを持つ者だけが開発を行えるような状況であれば、参入障壁は彼らがすでに存在する場所で高くなります。

実際に決定を下す機械

ここが、安全に関する議論とAIのサイクルが分かれてしまう点です。「 frontierを進める」という話は、モデルがいつリリースされるかということに関するものです。これは、この業界で収益を決定する要因である資本支出とはほとんど関係ありません。

どのような人が忍耐を求めているのか考えてみましょう。マイクロソフトは「慎重な進行」という点で最も強い企業の声です。同時に、年間約1160億ドルもの資金を投じています。これは業界内で最大の投資額であり、AIインフラのために必要なチップや土地、電力などを購入するための資金です。この違いこそが重要な点です。CEOたちはモデルの説明を管理している一方で、予算の実行は全力で行われています。

支出はどこでも減少していません。最大の受益者であるNvidiaは、前年比83％の収益成長を遂げており、粗利益率も約74％です。この需要は、業界が抑制策を取っているようには見えません。ウォールストリートの人々は、この週末の議論に対して一貫した反応を示しています。アナリストたちは、AIインフラの構築がほぼ正常に続くと予想しています。なぜなら、競争自体が重要な要素だからです。ウォールストリートジャーナルによると、大手テクノロジー企業が公表しているAI投資額は、実際の投資額を過小評価しているということです。およそ3兆ドル一度、債務で資金を調達したデータセンターや長期リース契約を含めると…オラクルがOpenAIと行った3000億ドルの大規模取引ウォールストリートのデータセンターに関する借金に対する欲求を限界まで刺激した。その資金のうち、どれも、CEOが安全に関するインタビューを行ったためにキャンセルされることはない。

バリーを真剣に受け止める——二つの部分から

間違いは、バリーの「自己中心的な」発言と彼の主張を、受け入れるか拒否するかの一つの論拠として扱うことです。それらは異なる主張であり、異なる証拠を持っています。

第一に、この減速策は自己利益を目的としており、また、警戒を促す企業自身のIPOのタイミングに合わせられているという点です。これは、インセンティブに関する鋭い分析です。Anthropic1兆ドル近くの価値を持つ私的資産今後数週間以内にプロスペクトを提出し、今年秋または10月に上場する予定です。その申請書には、AIに対する否定的な感情がリスク要因として記載されるでしょう。急いで株式を販売したい企業が、実際にはその事業を停止するよう求めている企業でもあるため、その動機については懐疑的な見方が当然です。

第二の主張は、真実であり、独立したリスク理論です。たとえその理論を全面的に受け入れないとしても、それを自分の知識体系の中に取り入れる価値があります。バリーは、AIによる収益が過大評価されていると主張しています。3年間で価値が下がったチップは、5年や6年のスケジュールに沿って処理されている。そのような努力が将来にわたってかかる費用となり、産業界では何兆ドルもの資金が借入によって賄われている。これらは、現在の数値がどれほど持続可能かについての実際的な会計的・レバレッジの問題である。しかし、安全に関する誰かの立場だけでは、それらの問題は解決されていない。また、運営データ上でもそれは明らかになっていない。収益が年間83％増加し、粗利益率が74％になるという状況で、産業界が自らの重さに耐えられるかどうかはまだわからない。

これがあなたのお金に与える影響とは

この週末は二つのことを示しています。第一に、「AIの速度を落とす」という話は、単なる政策上の演技に過ぎず、実際には何の制限効果もありません。このサイクルの収益を左右する資金投入のスピードは、フロンティアラボが管理するモデル発表のスピードとは別物であり、実際に遅くなっているのは後者だけです。個人投資家は、安全審査の結果を、開発が終了した理由として受け取るべきではありません。

第二に、より重要なのは、このエピソードが、あなたに売られる物語をどのような人々が作っているかを示しているという点です。自社の成長が原因だと言っても、実際にはそれほど急激ではないと主張する企業は、同じく自己の成長をトリリオンドル規模の価値で公表している企業です。彼らの言葉よりも、彼らの行動を見てみましょう。業界で最も多額の投資を行う企業が、他の人々に対して速度を落とすよう求めている場合、正確な意味は「終わりが近い」ということではなく、「私たちは先導を続けるつもりです」ということです。