カリフォルニア州は、AIによって生成されたCSAMを、OpenAI、Meta、Googleの定期的なコストとして扱うようになった。

2026年1月14日、カリフォルニア州の司法長官は、エロン・マスクが設立したxAI社に対して命令を出しました。グロクが実在の人々の性的に露骨な画像を生成するのをやめさせる2週間前に施行された「ディープフェイク」に関する法律を引用しています。この法律では、違反した場合、25,000ドルの罰金が科せられます。これは、カリフォルニア州が静かに構築している体制の最初の明確な兆候です。つまり、AIで生成された子供の性的虐待内容を、一時的な対策として扱わず、モデルを作成・ホストする人々に常にかかるコストとして扱う体制です。

OpenAI、Meta、Google、Anthropicの投資家にとって、問題はもはや、彼らの信頼性や安全性を担当するチームがこれを「処理」できるかどうかではなく、国家がモデルによる内容審査の問題を、繰り返される運営費用や、各画像に対して発生する負債として扱っているかどうかです。

カリフォルニアが実際に変わったこと

カリフォルニア州の方針は3つの要素から成り立っています。2024年に署名されたAB 1831です。AIで生成されたCSAMの作成、保有、配布を犯罪と定義するAB 621は、2026年1月から施行されます。この法律により、同意なく露骨なディープフェイク映像の配布を「無謀に助け、教唆する」プラットフォームやAIラボに対して、検察官が訴訟を起こすことが可能になります。法定損害賠償額は25万ドルまでとなり、また、その人物が実際の損害を受けたことを証明する必要はありません。xAIに対する取り締まりは、この法律によって行われる初の措置です。

現在、ギャヴィン・ニュソムの机の上にある第三の法案があります。AB 1946という法案は、9月3日に州知事に提出されました。この法案により、CSAMの法的定義が拡大されます。「未成年の個人」を描いた、親密な描写そして、既知のCSAMと一致するハッシュ値が見つからない場合には、プラットフォームは自然人がその情報を確認する必要があります。最後の項目は非常に手間のかかるものです。つまり、自動化されたハッシュマッチングでは見逃される内容、つまり、以前に記録がないAIによって生成されたり操作された画像を、人間が直接確認する必要があるのです。

問題はその規模です。NCMECのCyberTiplineは、2023年時点で約4,700件のAI-CSAM報告があったものが、2025年上半期には40万人以上インターネットウォッチ財団が数えたところ2025年には3,443本のAI生成されたCSAM動画が発生し、26,385％の増加となりました。13年目になると、前年度のデータが得られる。生成される出力量は桁違いに増加し、その背後にはレビューに関する負担が生じる。

安くならないコスト

お金が漏れている場所が示されている地図で、一つの線が目立っています。検出技術、つまりクラスター分類器や画像の出所を判別するツール、ハッシュライブラリなどは、一時的なコストがかかるものですが、その後は効果が薄れていきます。メタ社が公表した計画によると…コンテンツレビューワークフローの90％以上をAIで自動化するこの行を下にずらすことができます。しかし、パイプラインの他の部分は影響を受けません。

残っているのは、人間の審査と法的責任との結びつきです。AI-CSAMは、わざとアマチュアの実写写真のように見えるように作られているため、そして違反者が「AIによる検出」だと主張することで対応しているため、対立状態が続くのです。AB 1946条の人間の審査の要件とは、アルゴリズムが解決できない曖昧で高リスクなケースを、人間が直接判断するということです。そして、罰則は違反ごとに評価されるため、ニューメキシコ州の陪審員は…2026年3月に375百万ドルをMetaに投資消費者保護法の下では、違反ごとに最大5,000ドルの罰金が科せられます。これは、検察側が求めている20億ドルに比べてわずかな金額です。誤判断をした場合、それにはごくわずかな費用しかかかりません。これは過失によるものであり、訴訟費用や保険料として計算されるものです。この金額は、危険な行為の量に応じて増加するものであり、固定された数値ではありません。

4つは互いに等しくない。MetaとGoogleはプラットフォーム側の側面を持っている。2026年3月の1週間で、ニューメキシコでは375百万ドルの損害賠償判決が出され、カリフォルニアでは600万ドルの損害賠償判決が出された。また、2,300以上の子供の安全に関する訴訟が連邦裁判所で起こされ、各州の法務長官も加担している。OpenAIとAnthropicは私企業なので、そのコストはより大きな安全関連の投資や、画像モデルの発表が遅れること、そして最終的には、公開されると利益率が低下することとして現れる。xAIはすでに、虐待的な画像が新しいデータを生成するために使われたという事実から、実際の訴訟が起きていることを示している。xAIとStability AIの両方を名前に含むクラスアクションこれらは、メタの財務状況にとって大した影響を与えるものではありません。メタの3億7500万ドルという金額は、彼らの年間利益に比べれば小さいです。しかし、それはAI事業に関連する、継続的かつ成長する収入源であり、各社はその未来に期待を寄せています。

この論文を覆すような証拠

この見解に対する反論は、今も進行中です。2026年8月末に、第7巡回裁判所の判決では、完全にAIで生成されたCSAMを所有することについて、その行為が違法であると判断されました。「実在の子供がいないというイメージ」は、現行の最高裁判所の判例に基づいて保護された表現として扱われている。これにより、裁判所がその境界線を再考する必要が生じる。もしその理由が、制作や配信側を保護するために適用されるならば、遵守の負担や訴訟のリスクも減少する。これが最も強力な反対信号であり、だからこそ、これは注目すべき論点であり、短期的に売却すべき資産ではないのである。

つまり、3つ目のものはより安価になります。もし信頼性の高い検出が実際に安価になるなら――つまり、Metaの自動化手法が成功し、人間による審査や違反に対する対応が少なくなるなら；既に起こされている訴訟以外に新たな訴訟が発生しないなら；または、裁判所がプラットフォームの責任を個人レベルで制限するように、プラットフォーム全体の責任を制限するなら――そうなれば、繰り返されるコストは減少します。しかし、これらの条件は現在、全く逆の状況です。執行が加速し、判決が下され、人間による審査の要件が法律に定められています。

投資家にとって重要なのは、それが絶望的な予言ではなく、明確な境界線であることです。カリフォルニア州では、AIによって生成されるCSAMを、任意のトラストや安全対策に費やすべき作業から、生成される量に応じて増加する固定費として扱っています。つまり、最も難しい内容に対応するための労働力、違反ごとに発生する損害に対応するための準備金、そして全体のリスクに対応する保険費用などです。検出技術は商品化されていますが、責任と審査の関係はそうではありません。州の判決や次回の執行命令がどうなるか、そして最高裁判所が第七巡回裁判所の提案を受け入れるかどうかを見極める必要があります。この一つのケースが、持続可能なコストラインと、そうでないものとの違いです。