La Californie a transformé les contenus sexuels infantiles générés par l’IA en une charge économique récurrente pour OpenAI, Meta et Google.

Le 14 janvier 2026, le procureur général de Californie a ordonné que xAI de Elon Musk soit…Arrêtons de permettre à Grok de produire des images sexuellement explicites de personnes réelles.En citant une loi sur les « deepfakes » qui est entrée en vigueur deux semaines plus tôt, avec des sanctions de 25 000 dollars pour chaque violation. C’était le premier signe clair de ce que la Californie était en train de construire en secret : un système où les contenus sexuels impliquant des enfants générés par l’IA ne sont pas considérés comme une solution temporaire de régulation, mais plutôt comme un coût permanent pour ceux qui développent et hébergent ces modèles.

Pour les investisseurs dans OpenAI, Meta, Google et Anthropic, la question n’est plus de savoir si leurs équipes chargées de la confiance et de la sécurité peuvent « gérer » cette situation. Il s’agit plutôt de savoir si l’État a transformé le problème de la modération en une charge opérationnelle récurrente, ainsi qu’en une responsabilité difficile à gérer qui augmente avec chaque image produite par ces modèles.

Quels changements a en réalité provoqué la Californie

L’approche de la Californie combine trois éléments. AB 1831, signée en 2024.Il a criminalisé la création, la possession et la distribution de contenu sexuel infantile généré par l’IA.L’AB 621, entrée en vigueur en janvier 2026, permet aux procureurs de poursuivre les plateformes et les laboratoires d’IA qui « soutiennent ou encouragent imprudemment » la diffusion de faux images ou vidéos non consensuelles. Les dommages statutaires peuvent atteindre jusqu’à 250 000 dollars. De plus, il n’est pas nécessaire de démontrer que la personne représentée a subi des dommages réels. La mise en œuvre de cette loi contre xAI constitue donc le premier pas dans la lutte contre ce type de comportement.

Un troisième projet de loi est actuellement sur le bureau de Gavin Newsom. Le projet de loi AB 1946, soumis au gouverneur le 3 septembre, élargit la définition légale des documents sexuels d’enfants afin d’y inclure…Des représentations intimes d’une « personne identifiable qui est mineure ».Et il est nécessaire que les plateformes examinent le contenu rapporté par une personne physique, chaque fois qu’il n’y a pas de correspondance de hash connue avec des images contenant du CSAM. Cette dernière condition est particulièrement difficile à mettre en œuvre : elle exige que des personnes humaines examinent directement le contenu, alors que les algorithmes de matching de hash ne peuvent pas détecter certains types de contenus. Il s’agit donc d’images générées ou manipulées par l’IA, qui n’ont aucune trace antérieure.

Le problème lié à l’échelle est le point important. Le système CyberTipline de NCMEC est passé de environ 4 700 rapports AI-CSAM en 2023 à…Plus de 400 000 d’entre eux au premier semestre 2025La Fondation Internet Watch a compté…3 443 vidéos de CSAM générées par l’IA en 2025, soit une augmentation de 26 385 %À partir de l’année 13, on trouve l’année précédente. La production générative augmente d’un ordre de grandeur ; le coût lié aux révisions diminue par rapport à cela.

Le coût qui refuse de devenir bon marché

Carte montrant où les fonds s’échappent, avec une seule ligne qui ressort. L’ingénierie de détection – classificateurs, outils de vérification de l’origine des images, bibliothèques de hachage – représente un coût de capital qui est initialement élevé, mais dont les bénéfices diminuent avec le temps. Le plan divulgué par Meta…Automatise plus de 90 % des processus de révision du contenu grâce à l’IA.Cela montre que cette ligne peut être mise en place en bas. Mais elle ne prend pas avec elle le reste du pipeline.

Ce qui persiste, c’est le lien entre l’évaluation humaine et les responsabilités légales. En effet, l’AI-CSAM est conçu de manière à ressembler à une photographie réelle prise par un amateur. De plus, les délinquants répondent aux accusations en affirmant que les abus étaient causés par des algorithmes, ce qui rend la détection par l’AI encore difficile. La exigence d’une évaluation humaine prévue par AB 1946 signifie que une personne doit examiner soi-même les cas à haut risque qui ne peuvent pas être résolus par les algorithmes. Et comme les sanctions sont calculées en fonction du nombre de violations commises…Ajouté 375 millions de dollars à Meta en mars 2026Sous les dispositions du droit de protection des consommateurs, le montant maximal applicable pour chaque infraction est de 5 000 dollars. Cela représente une fraction de l’argent demandé par les procureurs, soit 2 milliards de dollars. Chaque rejet erroné entraîne donc un coût financier modeste. Si cela est considéré comme une négligence, cela constitue une ressource pour les litiges judiciaires et un coût d’assurance qui augmente avec la quantité d’images à risque, et non un montant fixe.

Les quatre ne sont pas égaux. Meta et Google possèdent une position avantageuse sur le plan de la plateforme : une semaine de mars 2026 a entraîné des poursuites contre Meta au Nouveau-Mexique pour un montant de 375 millions de dollars, ainsi que des poursuites en Californie pour 6 millions de dollars. Plus de 2 300 cas liés à la sécurité des enfants ont été traités par les tribunaux fédéraux, et les procureurs généraux des États ont également pris part à ces poursuites. OpenAI et Anthropic, quant à eux, sont des entreprises privées ; donc, les coûts correspondent à des investissements plus importants en matière de sécurité, à des délais plus longs pour la publication des modèles d’images, et – finalement – à des marges plus faibles. xAI a déjà montré ce schéma de comportement : des actions en justice de la part des personnes ayant subi des abus, dont les images ont été utilisées pour créer de nouveaux produits.Actions en classe concernant xAI et Stability AIRien de tout cela ne représente une grande contribution pour ces bilans financiers : les 375 millions de dollars de Meta sont insignifiants par rapport aux profits annuels de l’entreprise. Mais c’est une activité récurrente et en croissance qui fait partie du secteur de l’IA. Chacun d’eux mise sur l’avenir de cette industrie.

Les signaux qui remettraient en question la thèse

Le argument sérieux contre cette opinion est actuellement en cours. À la fin du mois d’août 2026,Un panel du Seventh Circuit a jugé que posséder des images de mineurs créées entièrement par l’IA est une infraction.L’image d’un enfant réel n’est pas considérée comme du langage protégé selon les décisions de la Cour suprême existantes. Cela invite donc la Cour à revoir cette ligne de décision. Si cette logique s’étend pour permettre aux parties concernées de se conformer aux règles, alors le fardeau lié à la conformité et les risques juridiques diminuent. C’est le signal le plus fort contre l’analyse actuelle ; c’est pourquoi il s’agit d’une thèse à suivre, et non d’une position à sous-estimer.

Il y a aussi trois modèles moins chers. Si la détection fiable devient réellement moins coûteuse – si le projet d’automatisation de Meta réussit et que les coûts liés aux vérifications humaines et aux procédures de sanction diminuent – ou si aucune nouvelle action en justice n’apparaît par rapport aux cas déjà déposés – ou encore si les tribunaux réduisent les responsabilités des plateformes, comme ils l’ont fait pour les détentions individuelles – alors les coûts récurrents diminueront. Mais actuellement, toutes ces conditions se réalisent dans la direction opposée : l’application des règles s’accélère, les décisions judiciaires arrivent, et les exigences liées aux vérifications humaines sont intégrées dans la loi.

L’évaluation à niveau investisseur représente plutôt une limite claire, plutôt qu’une prédiction apocalyptique. La Californie a transformé les contenus CSAM générés par l’IA en un coût constant qui augmente avec la quantité de contenu produit : des efforts de sécurité nécessaires pour traiter les contenus les plus difficiles, des ressources juridiques qui s’accumulent au fil des dommages causés par chaque violation, et des assurances qui couvrent tout cela. L’ingénierie de détection devient alors commercialisable ; mais le lien entre responsabilité et examen est resté inchangé. Il faut observer le nombre de personnes impliquées dans les efforts de sécurité, en attendant les décisions de l’État et les prochaines sanctions légales… Et surtout, savoir si la Cour suprême acceptera l’invitation du Seventh Circuit. Ce seul cas fait toute la différence entre une coûte négociable et une coûte qui ne peut pas être gérée.