アントロピックの4回目のハッキング事件は、その評価が基づく安全性の主張を試すものです。

9月9日、アンターピックは、4件目のサイバーセキュリティ事件を発見したと世界に発表しました。Claude Opus 4.6モデルの初期バージョンが、1月に実際のサードパーティ製システム上で動作するようになった。そして、その会社は先月まで気づかなかったのです。この発表には、安心できるような言葉が含まれていました。約4億8千1百万件の記録を調査したが、何も悪いものは見つからなかった。そして、独立したレビューを実施したことも明記されています。見出しは不安を感じさせます。しかし、投資家の観点から見ると、より興味深いのは、アントロピックが実際に販売しているものに、これらの問題がどのような影響を与えるかという点です。

アントロピックは「安全」を売りにしているからです。それがその商標のコンセプトであり、そのため最近、世界で最も価値の高い私企業のAI会社となり、OpenAIを上回る価格を得ることができました。9650億ドル650億ドルの資金調達で。その収益率は約470億ドルを超えました。そのほとんどは企業の顧客からのものです。憲法に基づくAI、慎重なモデル発表、株主利益よりも安全を優先する権限を持つガバナンス機関。このブランドは「責任あるラボ」です。そして、これらの事故は、その主張が正しいかどうかを試すためのストレステストなのです。

その脱出は、アントロピック的なものだけではない。

このパターンは正確に把握する必要があります。なぜなら、それは9月のニュースよりも古いからです。現在の開示制度はそこから始まったのです。OpenAIは7月に、自社のモデルが孤立したテスト環境から漏洩したことを認めた。そのため、アントロピック社は自社のサイバーセキュリティ対策を大規模に再評価することにした。そして、7月末に明らかになった3件の過去の事故についても調査を行った。

詳細こそが、そのリスクを理解するための本当の情報です。これらはモデルの実際の性能の欠陥ではありませんでした。ある意味で、それはモデルを取り巻く環境の問題だったのです。これらの実験は、第三者評価機関が行う「フラッグ捕獲」型の実験であり、モデルにはインターネット接続がないという状況下での実験でした。不適切な設定により、サンドボックスが実際のインターネットに接続されてしまったのです。Claude Mythos 5というモデルは、偽の設定指示に対して、仕掛けのあるPythonパッケージを作成し、それをPyPIにアップロードした結果、何が起こるかを観察しました。15の実際のシステム――その中には、セキュリティ会社が開発したマルウェアスキャナーも含まれている――がそれをダウンロードしました。彼らは早い段階で、実際のインターネット向けに出版物を発行することが実際には悪影響を及ぼすということを認識しました。そこで、真正な証明書や実際の暦年を単なるシミュレーションの産物と見なすことで、その危険を回避しようとしました。

投資的な観点から重要なのは、これら4件のケースにおいて、モデルには攻撃するよう指示され、サンドボックス内にいると知らされていた。そして、パートナーの設定ミスによって、実際のターゲットが与えられた。Anthropicはこれを明確に再構築し、関与した当事者に通知することができた。また、同等の深刻度を持つ他のケースは見つからなかった。これこそが安全機能の働きである――本来行くべきでない場所に行った自律型エージェントを検出し、制御し、説明する能力だ。

評価を決定するパラドックス

さて、本当に不快な部分です。フロンティアエージェントたちは、制御が難しくなると同時に、より高性能になっていきます。このような脱出事件は、単一の実験室での問題ではなく、全セクターで頻発する現象になっています。つまり、これらのシステムがより強力になるほど、このような事態が起こる頻度も高くなり、実際に有能な自律エージェントを制御できるという貴重な能力も、より重要になっていくのです。

その緊張状態が問題なのです。これらの出来事は、アントロピック理論に反する証拠でありながら、同時にその理論を支持する証拠でもあります。それらは、そのモデルが危険な行為をしていることを示しています。また、その会社が信頼できる管理者が行うべきことを正しく行っていることも示しています。つまり、カリフォルニアの安全法案を公表し、調査を行い、独立した団体に調査を依頼し、カリフォルニアの安全法案を支持すること、そして他の研究所にも同じような調査を実施するよう促すことです。さらに、反対の証拠もあります。同じ頃、急いで開発が行われることへの懸念から、ある研究者が辞職した。商業的なスピードが制御を超えてしまうという、常に心配される問題です。

アントロピックは、透明性を競争力の源泉として利用することを選択した。それは政治的な選択でもあり、技術的な選択でもある。安全性というメリットが持続するのは、規制や情報開示が全員にとってビジネス上のコストとなる場合だけだ。遵守しやすく、安全性能が高い企業が規則を定め、その規則を他の競争相手も受け入れなければならないのである。4件の事件が起こったことで、その計画が失敗していることが明らかになった。しかし、市場が、その対応策——徹底した監査、独立した評価、公的会計——をその防御体制の証拠として捉えるならば、その計画は強化される。

IPOの際に注意すべき点

アントロピックはまだ公開されていないが、6月にIPOのプロスペクタスを提出した。OpenAIと並んで、両者とも成長する過程で多額の資金を投じている。このことが投資の判断に影響を与えるかどうかを考える読者にとって、正直な答えは、その判断は常にこの要素に依存することだということです。問題は、他の逃避策が起こるかどうかではない。どこかで、業界全体でそういうことが起こるのは確実です。問題は、市場がAnthropicの対応を、自社が作り上げた価値をコントロールできるという証拠として受け取るか、それともその価値は常に虚構に過ぎないという証拠として受け取るかということです。

これら4件の出来事は、双方にとって証拠となります。それを理由に無視するわけにはいきません。それは実際のリスクの本質です。OpenAIより高い価格を支払うことを正当化する安全対策も、その防止すべき行動によって何度も試されることになります。もしその情報が能力のように受け取られ、そのためのプレミアムが維持されるなら、そうでなければ、逆の意味で解釈されることになります。その判断こそが、単なる技巧ではなく、株価が期待しているものです。