アントロピック社の生物兵器に関する報告書は、安全上の限界を明らかにしている。これは、2兆ドル規模のIPOにおける軍事競争のリスクとなる。

アンタルニックの安全性については、コンセンサスが正しい。だからこそ、市場はその安全性の価値について間違っている可能性があるのです。

全員が同じ二つの事実を受け入れている。アントロピックは、Claudeを利用して大規模な害を与えるという試みを阻止した——すなわち、機能獲得型の助成金を申請するという要求をね。チクンギュナウイルスについてサイバー侵入、監視、影響力行使といった活動と共に、彼らは慎重な、規制当局にとって好都合な安全政策を継続して発表している。投資家たちは、最新の生物兵器リスク報告書を重要な証拠として受け止めている。それは、安全が永続的な防波堤であることの証明であり、その信頼度を示すものだ。およそ2兆ドルのIPO— 約30倍7月末に同社が報告した、年間650億ドルの収益です。.

その報告書は真実です。しかし、それが証明となる文書としては不適切なものです。注意深く読めば、そこに記載されている方法は逆のことを示しています。Anthropic社の安全対策は、絶え間ない、無限のコストであり、規制当局によって管理されている。そして、そのコストは直接的な収益の損失に変わることがあります。その報告書は、実際には完成されていない証明書のようなものであり、実際に得られた成果の証明ではないかもしれません。

壁を攻撃する者たちが周囲を歩いている。

その「堀」という考え方では、安全は悪者が乗り越えられない障壁だとされています。9月の脅威情報報告書では、実際にはそうした障壁が存在しないと述べられています。詐欺的な転売業者たち――報告書ではそのネットワークをそう呼んでいます。「犯罪用AIのサプライチェーン」それらのアプリケーションは、クルードの割引利用権を提供しており、そのアプリケーションを通じて、さまざまな、制限が少ないモデルへのトラフィックが送信されていました。また、LiteLLMやOpenClawといったウィジェットも利用されており、攻撃者はAPIキーを窃取したり、クエリを誤って転送したりすることができました。この報告書では、これらを単発の事件として扱うのではなく、構造的な問題として捉えられています。

経済的な観点から見てみると、要求が適切に拒否される場合、その悪用は止まりません。代わりに、その悪用はより弱いモデルへと送られるだけです。Anthropicは、壁を建設し、防衛するためのコストを負います。また、それによって防ぐことができる漏洩の量の価値もあります。しかし、敵を隣人の開けた門へと送るような防御策は、コストに過ぎず、株価に反映できるプレミアムではありません。

堀は、自分自身の調整装置を求めている。

溝が自らの条件を定めることができれば、その価値はコストよりも高くなる。アントラニックの安全対策は、今やその条件を定める政府と衝突することが多い。6月には、Fable 5の jailbreakが起こった後、商務省が輸出制限を施した。外国の人々がアクセスを禁止される規則を満たす唯一の方法は…Fable 5とMythos 5を完全に中断する— その主力モデルは市場から消えてしまった。ある研究者が業界の現状を明確に述べている：すべてのモデルは、 jailbreak 可能です。そして、新たな脆弱性が常に出現してきます。

その逆転は構造的なものです。アントリカンは何年もかけて規制を求め、最終的にはその規制が実施されました。ある分析によると、「アントロピックは規制を求めている」そしてワシントンはさらに一歩進んでいった。安全を自社の競争優位として売り出す企業というのは、実際には政府が定める基準に従うべき企業なのだ。新しい製品が発売されるたびに、政府は新たな収益源を得ることができる。安全を競争優位とする戦略では、一度構築されたコストは固定されてしまう。記録によると、ライセンスの更新は、アントロピックが定めた価格や期間で行われている。6月には、新たな収益損失が生じている。

価格は堀のように高く、費用は税金のようにかかる

これは間違った評価基準です。市場価格は、利益を増やし、効果を高めるかのように扱われます。つまり、ちょうど報告が終わったばかりの企業に対して、約30倍の価格で取引されるということです。正の調整後の運営収入その報告書では、安全性を反対方向で評価している。つまり、安全性は繰り返し発生するコストや衝撃の原因と見なされ、運営の力となる要素ではなく、制限要因に過ぎないとされている。たとえ、最新のFableクラスやMythosクラスのモデルが実際には使用されていないという最も強い主張を認めても、それでも安全性は運営の力とは言えない。記録された悪用行為においてこれは本当に安心できることです。つまり、それは直接的な攻撃に対する防御手段を表しており、利益を拡大する手段ではないのです。

プロキシ市場はこの誤りをさらに悪化させている。IPOの価格設定が行われる前に、個人投資家たちはVCXやDestiny Tech100といったクローズド型証券でアンタリックを保有するために、既にプレミアムを支払っている。アンタルシックの純資産価値の約5分の1そのプレミアムは、どんな安全問題よりも大きな負債です。それは、供給不足の代償であり、IPOによって直接所有権が代替されるのです。この熱狂はすでに収まりつつあります。過去1年間でVCXの価格は575ドルまで上昇しましたが、現在は33ドル近くで、4ヶ月で半分以上下がっています。

ですから、恐怖とコストを分けるべきです。破壊的な側面——クロードが生物兵器の発動装置として機能するという点——は、この証拠によって支持されていません。最も強力なモデルは、武器競争の側面——無制限の支出と、モデルや収入を制御できる規制当局の存在——であり、これが重要な点です。そして、それが30倍の収入に影響を与えるものです。

どのような要因がこの主張を破壊するのか

この責任に関する論点は、2つの状況で明確に扱いやすくなります。第一に、もし安全性が実際に価格設定の力となり、企業がClaudeをより高い価格で購入する理由が安全性であるためである場合、それは優位性となり、おそらく過小評価されているかもしれません。第二に、もし規制当局が安全性の基準をアントロピックが既に超えているレベルに設定した場合、コンプライアンス遵守は特権的な資格となり、市場へのアクセスは困難になります。どちらか一方が存在しない場合は、保険料を支払っている工場での火災訓練のように、次の生物兵器に関する報告を扱います。つまり、プロセスが正常に運行していることを確認するだけであり、保険料が低いという証拠ではありません。

観客たちは、完成した証明書を購入しました。記録によると、負債がかなり大きいようです。真に優れた安全記録は、30倍の収入を支払う必要があるという悪い理由や、追加料金を請求するサービスと並んで問題なく存在できます。観客と一緒にいることはキャリアを守るためのものですが、そのプレミアムを守るわけではありません。