AIの絶滅に関する警告が広まっている。2兆ドル規模の上場が、その不安を価格に反映させようとしている。

火曜日には、27歳のAI研究者ジェイコブ・コクソンという名前の人物が辞任を表明しました。彼は過去3年間、OpenAIやAnthropicで、 frontierモデルを教育するという地味で大したことのない仕事をしてきました。彼の文面の冒頭は「今日、Anthropicを辞める」というものでした。その理由として、こう述べています。「このようなシステムを作っている企業たちは、自動的に進化する超知能を持つ方向に急いでおり、私たちの命を危険にさらしている。」また、「AIを開発している人々は、それが実際に可能だと真剣に信じている」とも述べています。この10年が終わる頃に、私たち全員を殺すつもりだ。翌朝になると、その糸は…1億人以上に届きましたそして、その冒頭の文がとてもシンプルで、簡単に借用できるものだったため、そのパターンを利用したバージョンが、さまざまな人々によって作られていった。真剣な人もいれば、そうでない人もいた。ある人の創作は、誰でも真似できる形式になってしまったのだ。

模倣というのは手がかりに過ぎず、結論ではありません。それは、「AIが私たちを終わらせるかもしれない」という議論が研究室から一般の人々の間に広がっていっていることを示しています。しかし、それ自体ではモデルや株価を変えることはありません。実際に株価を変えるのは、その議論の中心にある会社が何をしているかです。

記録された主張

その警告は、一人の人から来たわけではない。前列に座る3人の人類学研究者同社のモデルたちは、ほぼ同時に公開されました。Coxon、アライメントサイエンス部門の責任者であるエバン・ハビンガー、そしてスケーラブルオーバーサイズ部門の責任者であるサミュエル・マークスです。ハビンガーがCoxonに対して述べた言葉は、誰もが引用するものです。「ジャコブの言う通りです。私たちは本当に、AIが全人類を滅ぼす可能性があると信じています！」と彼は書きました。「個人的には、今後10年以内にその可能性は10％以上になるでしょう。」約960万回閲覧されました.

懐疑主義者が述べるように、その主張を書き出してみましょう。検証可能で、偽りを証明できる部分は、誰かがチェックできる数値です。つまり、10年以内に10％以上の確率で起こり得ることです。正直な部分は、その前の文にあります。ヒュビンガーはまた、「Anthropicには、超知性体の調和を実現するための計画がまだないし、そうなる可能性も明確ではない」と述べました。これは、OpenAIのCEOがこの技術が「恐ろしく、制御不可能な段階に入った」と述べた後の数日後でした。また、OpenAI、Anthropic、Metaの各社が、自分たちのAIシステムが実際のシステムに侵入してしまったことを公表した夏の後でもありました。

この「ジョークの波」というものは、もし何も変わらないならば、封印されてしまうかもしれない主張にとって最初の亀裂となる。絶滅の危機というメッセージが、人々が利用する形になったとき、その重要性が少し失われ、政治的な意味を持つようになる。それは、単なる心配事ではなくなり、キャンペーンや世論の数値として使われるようになる。この変化こそが、お金と関連する始まり点なのだ。

物語の半分はお金です。

もしそれがそのまま掲載されるだけなら、単なるミームに過ぎない。しかし実際にはそうではない。今、辞職している人々が笑いの対象になっているその会社は、世界で最も大きな上場企業の一つになることになるのだ。

クラウドの製造者である人間的な存在です。6月1日に公開されるために、機密として記録されました。5月に行われた最後のプライベートラウンドでは、約9650億ドルの評価で650億ドルが調達されました。現在は約2兆ドルの価値がある物件を対象にしています。— と、情報源によると、それが可能になるかもしれない。市場史上最大の株式発行そして、その贈り物は数週間以内に届くと予想されています。9月下旬になるとすぐに届くでしょう。

初心者が覚えておくべき算数の知識です。アンタルニックの収入は急速に増加しています——7月末までに650億ドルの年間額を超えた、前年と比べて7倍以上です。2兆ドルの価格になります。年収の約31倍そして、その収益は、会社自身が2028年に予測する収益の10倍以上にもなる。簡単に言えば、その価格は、時間通りに実現され、障害をすべて克服していく未来を前提としているのだ。製品を開発する人々は、将来は世界が安全に構築できないような状況になるかもしれないと主張している。この二つの見解の間にあるギャップこそが、リスクの所在なのである。

そして、その会社もそれを知っている。情報源によると、アントラニックの公式資料には「上場予定」と記載されている。AIやデータセンターに対する否定的な感情それは正式なリスク要因です。これは小さな情報ではありません。それは、笑いや辞任、そして恐怖心が、弁護士が書くべき文書の中に表現されているのです。その感情は実際的で測定可能です。5月に行われたガルップ調査によると、アメリカ人の中で7人に1人が、自分の地域に新しいAIデータセンターを建設することに反対しており、ほぼ半数が強く反対し、わずか4分の1が支持しているとのことです。政治家たちも同じ流れに乗っています。文化的な出来事と金融的な出来事は、同じ入力情報であり、二つの観点から見られるものです。

実際の小口投資家が置かれている状況

ほとんどの読者にとって不快な点は、Anthropicを購入することができないということです。それは私企業なので、公開されている情報しかありません。購入できるのは、その周辺にある上場企業たちだけです。そして、その中の一つについては、情報が非常に多く存在しています。

最も明確なのは、Googleの親会社であるAlphabetです。7月23日の報告書において、AlphabetはAnthropicへの持ち株について明らかにしました。6月30日時点で1243億ドル相当です。約4.05兆ドルという市場価値と比べると、これは会社全体の約3％に過ぎない。そして、これは市場価格に基づく数値であり、私的投資による未実現利益であり、現金ではない。アルファベットの業績に与える影響は顕著だった：この持分は第2四半期の利益を押し上げる要因となった。前年比で298％の増加そして、ある報告によると、1四半期で約770億ドルの未実現利益を得たそうです。Alphabetも同様です。アンタルシックに400億ドル以上を投じる現在は100億ドルですが、残りの部分は業績の達成度に応じて決定されます。購入者にとって重要なのは、その資産に対して支払う価格です。アルファベットの価格は、前年実績利益の約16.6倍であり、AI関連の他の企業よりもかなり低い価格です。

AMDは2番目のスレッドです。彼らは同意しました。アンタルヒック社に50億ドルまでの投資一方、AMDは次世代チップを数百億ドルも売り上げており、2027年からは2ギガワットの能力を持つチップも販売されています。AMDの株価は利益の約129倍であり、これはそのチップ取引にどれだけの費用がかかっているかを示しています。また、市場で最大の企業であるNvidiaは、5.25兆ドルほどの価値を持ち、利益は27倍です。Nvidiaはこの取引の中心に位置しており、同時に競争相手でもあります。Nvidiaはオープン型企業であるHugging Faceを買収しており、そこが実際のチップ取引の中心となっています。

これらは、買うか売るかの合図ではありません。重要なのは、「AIは危険だ」という話が、すでに…という状態になっていることです。評価単なる安全に関する話ではなく、評価がポートフォリオを動かす要因です。

出口のドア

各私企業のIPOは、実質的には売却行為に他なりません。AnthropicのIPOは、その種の中で最大規模です。これまで安く株を購入した人々――従業員や初期投資家、GoogleやAMDなどの支援者たち――が、今度は公開市場で株を売却できるようになります。初期の株式は、通常、売却される前に確保されているものです。ですから、冗談の後に来る疑問は、「AIが私たちを滅ぼすのか」ということではなく、「慎重に考える理由となった恐怖が、今度は上場情報の表紙にも書かれているとき、2兆ドルという価格は維持できるのか」ということです。

実際にモデルを変える要因は、感情の量ではなく、規制です。感情というのは安価なものです——アンケートやメディアの報道、選挙での勝利などです。コクソン自身も、唯一の有効な手段は「モデルの性能向上を一時的に禁止すること」だと述べています。つまり、発展を遅らせるような規制や停止措置が必要であり、そうすれば31回の収益を得る価格を再検討する必要が生じます。なぜなら、それは価格が前提としている成長自体に影響を与えるからです。

この状況の健全な解決策は、すでにデータの中に部分的に存在している。絶滅の危機が笑いものになるという事実は、その状況がまだ決定されていないことを意味する。つまり、それを悲劇として扱うのではなく、合理的に評価し、議論することができるのだ。もし、崩壊が起こらず、研究者たちが数値を公表し続けるなら、それらを検証することができる。そして、政府がパニックに陥ることなく、監視的な態度で対応すれば、恐怖は市場が負担するコストとなり、大惨事とはならない。ドアの向こう側がIPOの場所である。誰が最初にそのドアを通り抜けるか、そしてどのような価格でかは、注目に値する点だ。