アントロピックは、AIの進化のペースを遅らせたいと考えている。これは、開発のコストを削減するという意味ではなく、単に監視的な対応だと理解したい。

記事より先に、見出しが目を引いた。アントラピックのCEOがAI業界に対して…能力向上のペースを遅らせるAIの開発に力を入れている企業の場合、ニューワンの価値は5.26兆ドル、アルファベットは4.14兆ドル、アマゾンは約2.8兆ドルという数字です。そうした状況では、これらを、その評価が基づいている投資支出の議論に対する脅威と捉える傾向があります。もし最前線に近い企業が、競争が速すぎると言うなら、それは需要の話を弱めることになりますよね？

見出しだけで判断する前に、その提案の内容をちゃんと読んでみましょう。土曜日に発表された論文の中で、ダリオ・アモデイは3段階の計画を提示していますが、その内容もまた重要です。第一のステップとは、アントラニックが第三者の評価者に対して一方的に約束することです。永続的な、従業員レベルのアクセス権そのモデルやトレーニングパイプラインについて、安全性を確認し、事故を報告し、目的の一致を確認することが求められます。第二に、民主主義国家の様々な研究所間で安全基準を調整することです。第三に、中国との協力を図ることです。アモデイは明確に述べています。「遅くなる」ということは、モデルの訓練や技術的な進歩を止めることを意味しない。目標は購入することです。1、2年余分の期間アライメント、解釈性、テストの面で、その能力に追いつくため。

それが、公的投資家にとって重要な違いです。彼が提案しているのは、監督を加えることで能力の発表を緩和することであり、より少なく作るというわけではありません。そして、詳細はインフラ支持的な方向になっています。協調の要素は、AI分野での米国のリードを損なわないことに基づいています。アモデイは米国政府に対して…中国向けブロックチップの販売そして、そのような制限は適切ではないと言っている。アメリカの優位性を3〜5年拡大するコンピュータの優位性を維持し、競争相手がチップを利用することを制限するという計画は、AIハードウェア市場を縮小させるための計画ではありません。

では、このエッセイを、「アントロピック」が実際にどのような活動をしているかと比較してみましょう。なぜなら、二つの動きは異なる方向を向いているからです。これは私企業です。3500億ドルに値するGoogleが取り組んでいること現在は100億ドル、そして目標達成時には300億ドルまでになる。アマゾンの拡大する取り組みに加えて、以前の80億ドルに加えて、250億ドルまで。それは、保証を得るために契約を結んだ。アマゾンの発電能力は、最大5ギガワットに達する。そして「複数のギガワット」ということです。2027年から、次世代のGoogle TPUの能力が実現される、そしてそれは投影されている2029年までに800億ドルに達するクラウド投資AWS、Google、Microsoftを超えることです。これは、より多くの frontierコンピューティング機能を手に入れようとする企業の行動であり、逆ではありません。

それこそが、保持すべき緊張関係なのです。アモデイは、この業界の商業的動機を「低レベル化への競争」と表現しています。しかし、アントラピックが3500億ドルの評価価値を持ち、マルチギガワット規模の供給を行えるのは、その競争が能力を重視する方向で続くからです。この論文は、市場構造や安全確認に関するものです。ギガワット規模の契約が実際の資金配分の決定となります。これら二つが衝突すると、お金が最も正直な証拠となります。

しかし、これが論文が無意味であるという意味ではありません。投資家の視点から読めば、より興味深いのは、フロンティアラボのCEOが、どの企業も安全対策を自ら行うことはできないと公言している点です。そして、政府や他の第三者に頼って、共通の基準を確保しようとしているのです。これは、資本やコンピュータへのアクセスによって利益を得ることが重要な市場であり、そこにはハイパースカラーやそのチップサプライヤーが位置しています。つまり、ペースを調整しようとする人々の主張は、実際には財務状況が示す同じ状況を説明しているのです。

正直なところ、この論文では、実際にその理論を損なう可能性のある未来の技術が挙げられている。例えば、トレーニングにかかるコンピュータ資源の制限や、再帰的な自己改善における速度制限などだ。しかし、そうした難しい課題の中でも比較的簡単なものについても「チェックポイント」として扱われている。つまり、完全な停止状態になっているのだ。「すぐにはありそうにない」それらは、抽象的な概念から離れて、実際の予算に反映されるようになった時だけ注意すべきものです。現在の状況を見る限り、「ペースを落とす」というのは監督の要求であり、電気を消すよう命じるものではありません。そして、その要求を出す企業は、これまで以上に多ギガワット級のコンピューティング能力を確保しているのです。