アンドリュー・ンは、絶滅の懸念を「サイエンスフィクション」だと言う

アンドリュー・ニグは、人工知能が人類を滅ぼす可能性があると警告する研究者たちに対して、率直な答えを出している。つまり、「それは科学的な事柄よりも、むしろフィクションに近い」ということだ。Google BrainやCourseraの創設に貢献したAIの先駆者である彼はこう言った。トップモデルメーカーの研究者たちからの、存在論的なリスクに関する警告「技術が社会に最大限の利益をもたらすことを妨げるものである」とされ、サイバー攻撃のような実際の危険性はあるものの、その絶滅の可能性はフィクションに近いと見なされている。

その発言は、閉鎖的な場での哲学的な論争のようですが、ニグはその非難を具体的な対象に向けていました。彼は単に危険性を疑うだけではなく、AIがもたらす潜在的な破壊的影響に対する懸念を煽っていると、技術業界を非難しました。広報を強化し、規制の形を整えるそして、現在の「絶滅への警告」が再び高まっているのは、おそらく同じ目的のためだと言われています。投資家にとっては、これは重要な問題です。もし恐怖が規制を形成するなら、その規制がAI開発のコストやスピードを決定します。そして、そのAI開発は、最大級の技術企業が資金をどのように使うかという問題の中心にあります。重要なのは、絶滅が起こり得るかどうかではなく、この議論がどのようにして、最も先進的なモデルを開発する企業に与えるコストや制約となるかということです。

恐怖が高価になる必要はない。

Ngが指摘しているメカニズムは、世界の終わりという状況が実際に起こらなくても機能する。壊滅的なAIに関する懸念が政治的な動力となり、実際に定められる規則も曖昧なものではない。それらの規則は、最も大きなモデルを訓練する少数の企業に向けられており、訓練の規模に応じて適用されるのだ。

カリフォルニア州は、特に frontier AIの安全に関する最初の米国法を有しています。2025年9月末に署名されたこの法律はSB 53という名前です。この法律では、「frontierモデル」とは、より多くのデータを用いて訓練されたモデルと定義されています。10²⁶回の浮動小数点演算そして、年間総収入が5億ドル以上の開発者を「大規模なフロンティア開発者」と呼ぶ。これらの企業は、新しいモデルを導入する前に透明性に関する報告書を提出し、重大な安全問題が発生した場合は15日以内、または危険が迫っている場合は24時間以内に緊急当局に通知しなければならない。また、従業員が深刻なリスクを報告できるための通報窓口も設ける必要がある。さらに、最も大規模な開発者については、年次ガバナンスフレームワークを公表しなければならない。違反行為に対しては、1百万ドルまでの民事罰金が科される。これは、より厳格な制度の簡略化版である。SB 1047については、2024年にガヴィン・ニューサム知事が拒否したとされています。.

ヨーロッパはさらに進んでいます。EUのAI法により、2025年8月から汎用AIモデル提供業者に対して義務が課されることになりました。そして2026年8月2日には、欧州委員会がこれらの業者に対して完全な執行権を行使できるようになりました。3％までの罰金企業の年間世界全体の売上高のことです。特に、EUでは、累計トレーニングコストがある程度を超える場合、そのモデルが「高い影響力」を持つシステムリスクを有すると見なされます。10²⁵回の浮動小数点演算そして、そのような提供業者は、2週間以内に委員会に通知しなければならない。

どの法律も何かを禁止しているわけではありません。カリフォルニア州で科される100万ドルの罰金は、これらの企業にとっては些細なことに過ぎます。しかし、規則の内容を見てみると、モデルの規制は、そのモデルを訓練するためにどれだけの計算コストがかかるかによって行われているのです。遵守の負担は、フロンティアラボが行う巨大で高額な訓練に伴うものです。つまり、コストは、すでに資本支出が行われている場所に直接かかるのです。

エクスポージャーはハイパースカーラーを通じて行われる。

フロンティア開発者自身は、ほとんどが私企業です。OpenAIやAnthropicには取引可能な株式がありません。彼らが影響を受ける規則についての権益は、主に、彼らを支援し、コンピューティングサービスを提供する公開企業が持っています。それらの企業とは、マイクロソフト、アルファベット、メタ、アマゾンです。そして、これらの企業は、資金調達に苦労している状態です。

アルファベットは、過去12か月間で1320億ドル近くを資本支出に費やしたが、自由現金流は前年比約20％減少し、約530億ドルになった。マイクロソフトも同期間で1160億ドル近くを資本支出に費やしたが、自由現金流は約6.5％減少し、約670億ドルになった。簡単に言えば、これら2つの最大級の企業が、フロンティアラボが依存するAIインフラに数千億ドルもの資金を投じているが、コンプライアンス規制が実施される前から、彼らの現金収入は減少しているのだ。

これが、Ngの無関心な態度の背後にある緊張関係です。調査や報告によると、これらの大規模企業を所有している投資家たちは、主に…悲観的な警告を無視し、商機に目を向け続けるべきだ。彼らが関心を持っているのは、消滅のリスクではない。実際に彼らが直面しているのは、報告や評価、通知といった義務的な作業の負担であり、これによってコストがかかり、大きなモデルを迅速に公開することが遅くなる可能性がある。もし規制が現在のような透明性と報告の形で続くなら、資金を持つ企業はその影響を吸収し、さらに事業を拡大し続けるだろう。しかし、規制が厳格化され、最も重要なトレーニングが遅れるようになれば、今日費やされている数百万ドルの投資の正当性を保証する将来の収益が損なわれることになる。

一つの問題点は、「規制が既存企業にとって不利である」という考え方に反する点です。なぜなら、基準値は計算によって定められるため、大きな企業は上側に位置し、小規模な新規参入者は下側に位置するという構造になります。これにより、本来負担となるべきものが、実際には大企業を守る障壁となってしまいます。この業界自体もSB 53という問題で分裂しています。Anthropicはこの規制を支持しましたが、ベンチャーキャピタルであるAndreessen Horowitzは州レベルの規制による負担に反対しました。

アラームは家の中から来ている。

ンに対する最強の反論は、哲学的なものではない。それは、警鐘を鳴らす人々が、彼がその製造を行っていると非難している実験室に属しているという点だ。元AnthropicやOpenAIの研究者である。ジェイコブ・コクソンは、雇用主を非難しながら辞職した。「自分たちの命を賭けて賭け事をする」という状況であり、これらのシステムを構築している人々は、超知能型AIが「10年が終わる頃には私たち全員を殺す可能性がある」と主張している。Google DeepMindの研究者が最近辞職し、人類には広範な害を防ぐための時間がなくなっていると警告した。また、Anthropicのダリオ・アモデイやOpenAIのサム・アルトマンといった両社の責任者も、業界が開発を適切に進め、安全対策を講じるべきだと呼びかけている。

このような内部の反対意見は、投資家にとって悪影響を与えます。それにより、外部勢力が仕組んだ宣伝策であるというニグの主張が弱まってしまいます。最も深刻な影響を受けるのは、制限的な規則によって苦しむ企業自身です。しかし、株主の観点から見れば、企業が滅びることについて正しいかどうかよりも、実際にどのような規則が実施されるかの方が重要です。

NGは、その恐怖が安価に扱われるだろうと予想している。彼が強調する「実用的な工学問題」への焦点は、経済的な観点から見れば、建設作業を自分のペースで進めるべきであり、何か厳格な制限を設ける必要はないという主張である。悲観的な立場の人々は、その恐怖が政策として実施されるだろうと予想している。株主たちにとって問題を解決するための証拠は、議論の記録からではなく、実際の行動から得られる。つまり、欧州AIオフィスが汎用モデルに対してどのように新しい権限を行使するか、そしてカリフォルニアの規則が実際にどのように適用されるかということだ。もし、これらの規制が透明性や報告に関するものに留まるならば、それは数十億ドルの大規模な建設プロジェクトにとって些細な問題に過ぎない。しかし、最大のモデルのリリースを適切に管理するようになると、建設プロジェクトの資金源となる収入が脅かされる。この違いこそが、投資の成否を決定づけるものであり、今後の四半期で測定可能になる。