Kalifornien hat das von KI erstellte CSAM zu einem ständigen Kostenposten für OpenAI, Meta und Google gemacht.

Am 14. Januar 2026 ordnete der Generalstaatsanwalt von Kalifornien dem Unternehmen xAI von Elon Musk an,Hören wir auf, zu erlauben, dass Grok sexuell explizite Bilder von echten Menschen erstellt.Es wird auf ein staatliches „Deepfake“-Gesetz verwiesen, das bereits zwei Wochen zuvor in Kraft getreten ist. Für jede Verletzung wird eine Strafe von 25.000 Dollar verhängt. Das war der erste klare Hinweis darauf, was Kalifornien heimlich entwickelt hat: Ein System, bei dem die von KI erstellten Materialien zum Thema Kindesmissbrauch nicht als einmalige Lösung für Probleme angesehen werden, sondern als eine regelmäßige Kostenstelle, die auf jeden zukommt, der das Modell entwickelt und hostet.

Für Investoren in OpenAI, Meta, Google und Anthropic ist die Frage nicht mehr, ob ihre Teams für Vertrauen und Sicherheit diese Aufgabe bewältigen können. Die Frage ist vielmehr, ob der Staat das Moderationsthema in eine wiederkehrende Betriebskostenquelle sowie eine schwerwiegende Verpflichtung verwandelt hat – eine Verpflichtung, die mit jedem Bild zunehmt, das diese Modelle erzeugen.

Was Kalifornien tatsächlich verändert hat

Kaliforniens Vorgehen setzt drei Elemente zusammen. AB 1831 wurde im Jahr 2024 unterzeichnet.Die Erstellung, Besitz und Verteilung von AI-generiertem CSAM wurde kriminalisiert.AB 621 gilt ab Januar 2026. Es ermächtigt die Staatsanwaltschaft, Plattformen und AI-Labore anzuklagen, die die Verbreitung von nichtgeheilten, expliziten Deepfakes „verschwenderisch unterstützen“. Die gesetzlichen Schadensersatzbeträge betragen bis zu 250.000 US-Dollar. Es ist nicht erforderlich, dass nachgewiesen werden muss, dass die dargestellten Personen tatsächliche Schäden erlitten haben. Die Durchsetzung gegen xAI war der erste Schritt in dieser Richtung.

Eine dritte Gesetzvorlage liegt gerade auf Gavins Newsoms Schreibtisch. Das Gesetz AB 1946 wurde am 3. September dem Gouverneur vorgelegt. Es erweitert die rechtliche Definition von CSAM, sodass auch weitere Fälle mit CSAM berücksichtigt werden können.Intime Darstellungen eines „eindeutig identifizierbaren Minderjährigen“.Und es ist notwendig, dass die Plattformen das gemeldete Material von natürlichen Personen überprüfen – insbesondere dann, wenn es keine bestätigte Übereinstimmung mit bekannten CSAM-Dateien gibt. Diese letzte Bestimmung ist jedoch kompliziert: Sie verlangt, dass menschliche Augen auf den Inhalt geprüft werden, der durch automatische Hashvergleiche nicht erfasst werden kann – also Bilder, die von KI erstellt oder manipuliert wurden und keine vorherige Aufzeichnungen haben.

Das Problem mit der Messung ist das Wesentliche. Die CyberTipline von NCMEC hat sich von etwa 4.700 Berichten über AI-CSAM im Jahr 2023 auf…Mehr als 400.000 im ersten Halbjahr 2025Die Internet Watch Foundation zählte…3.443 von AI-generierten CSAM-Videos im Jahr 2025 – ein Anstieg von 26.385 %.Vom Jahr 13 bis zum Jahr davor: Die generativen Ergebnisse steigen um eine Größenordnung an; die Verantwortung für die Überprüfungen nimmt dabei zu.

Der Preis, der nicht billig sein will

Es gibt eine Karte, auf der die „Geldverschwendung“ zu erkennen ist – und eine Linie fällt dabei besonders hervor. Die Entwicklung von Detektionstechnologien – wie Klassifikationsverfahren, Tools zur Identifizierung der Quelle von Bildern sowie Hash-Libraries – ist eine einmalige Investition mit abnehmender Rentabilität. Meta’s geplante Maßnahmen dazu…Automatisieren mehr als 90 % der Workflows für die Inhaltsprüfung mit KI.Es wird gezeigt, dass diese Linie nach unten verschoben werden kann. Aber der Rest des Pipelines wird dabei nicht mitgenommen.

Was bleibt, ist die Verbindung zwischen menschlicher Prüfung und gesetzlichen Haftungsansprüchen. Da das AI-CSAM absichtlich so gestaltet wird, dass es wie echte Fotografie aussieht, und da die Verbrecher nun behaupten, dass es sich um „AI-Detektion“ handelt, bleibt die Konfrontation zwischen den Parteien weiterhin bestehen. Die Anforderung der menschlichen Prüfung gemäß AB 1946 bedeutet, dass eine Person die eindeutig unsicheren Fälle untersuchen muss, die von Algorithmen nicht gelöst werden können. Und da die Strafen je nach Verstoß bewertet werden – die Jury in New Mexico…Hit Meta mit 375 Millionen Dollar im März 2026.Unter den Vorschriften zum Verbraucherschutz beträgt die maximale Strafe 5.000 Dollar pro Verstöße – das ist nur ein Bruchteil der 2 Milliarden Dollar, die die Staatsanwaltschaft fordert. Jeder falsche Negativbescheid hat also nur einen geringen finanziellen Aufwand. Als Fahrlässigkeit zu bewerten, bedeutet, dass es sich um eine Art „Rechtsstreitrisiko“ handelt – und somit um eine Versicherungsprämie, die mit dem Umfang der riskanten Bilder zunimmt, nicht um eine feste Summe.

Die vier sind nicht gleich. Meta und Google haben die „Plattformseite“ der Exponierung inne: Eine Woche im März 2026 führte dazu, dass in New Mexico eine Klage in Höhe von 375 Millionen Dollar gegen Meta erhoben wurde. In Kalifornien gab es eine Klage in Höhe von 6 Millionen Dollar gegen Meta und Google. Mehr als 2.300 Fälle bezüglich des Kindesschutzes wurden vor dem Bundesgericht verhandelt. Die Staatsanwälte haben weitere Fälle aufgenommen. OpenAI und Anthropic sind hingegen privatwirtschaftlich organisiert – daher zeigen sich die Kosten als höhere Sicherheitsausgaben, langsame Veröffentlichung von Bildmodellen sowie – letztendlich – geringere Margen. xAI hat bereits das Muster der generativen Laboreffekte gezeigt: Reale Klagen von Opfern, deren Missbrauchbilder für die Erzeugung neuer Materialien verwendet wurden.Klassenklagen, die sowohl xAI als auch Stability AI beinhalten.All das ist für diese Bilanzen nicht von Bedeutung – Metas 375 Millionen Dollar sind im Vergleich zu seinem Jahresgewinn gering. Doch es handelt sich dabei um eine stetig wachsende Einnahmequelle, die mit dem KI-Business verbunden ist. Jeder, der an dieses Geschäft glaubt, setzt auf die Zukunft.

Die Signale, die die These untergraben könnten

Der ehrliche Einwand gegen diese Ansicht ist gerade aktuell. Ende August 2026…Ein Richtergremium des Seventh Circuit entschied, dass das Besitzen von vollständig von KI erstellten CSAMs rechtmäßig ist.Die Darstellung eines „keinen echten Kindes“ ist nach den geltenden Rechtsvorschriften des Obersten Gerichtshofs als geschütztes Wort verstanden. Dadurch wird das Gericht dazu gebracht, die Grenzen wieder zu überprüfen. Wenn diese Argumentation dazu dient, die Verpflichtungen und Risiken für die Produktion oder Hosting-Seite zu reduzieren, dann wird auch die Belastung durch die Compliance-Pflichten sowie die Anzahl der Klagen verringert. Das ist das stärkste Gegenargument – und deshalb ist dies eine Theorie, die es wert ist, beobachtet zu werden, nicht eine Position, die man verkaufen könnte.

Es gibt also auch drei günstigere Optionen. Wenn die zuverlässige Erkennung tatsächlich günstiger wird – wenn Metas Experiment mit der Automatisierung funktioniert und die Kosten für menschliche Überprüfungen sowie die Entschädigungen für Verstöße mit dem sinkenden Anteil an Fällen abnehmen – oder wenn keine neuen Rechtsstreitigkeiten entstehen außerhalb der bereits eingereichten Fälle – oder wenn die Gerichte die Haftung der Plattformen genauso stark begrenzen wie die Haftung bei individuellem Besitz – dann sinkt der wiederkehrende Kostenaufwand. Jeder dieser Faktoren zeigt derzeit eine andere Richtung: Die Durchsetzung der Regeln beschleunigt sich, die Urteile werden schneller gefällt und die Anforderung an menschliche Überprüfungen wird in Gesetze aufgenommen.

Die „Investor-Grad“-Bewertung ist eine präzise Grenze – nicht ein Vorhersage für das Ende der Welt. Kalifornien hat die von KI erstellten CSAM-Daten in eine ständige Kostenlast verwandelt, die mit dem Output der KI zunehmt: Sicherheitsarbeiten, die die schwierigsten Inhalte bearbeiten müssen, Rechtsstreitigkeiten, deren Kosten pro Verstöße zunehmen, sowie Versicherungskosten, die den gesamten Betrag ausmachen. Die Detektionstechnologie wird zu einem kommerziellen Produkt – das Risiko und die Überprüfungen hingegen bleiben unverändert. Man sollte auf die offengelegten Zahlen bezüglich der Sicherheitskräfte achten – bis zu den Entscheidungen des Staates und den nächsten Vollzugsmaßnahmen. Und vor allem: Ob der Oberste Gerichtshof die Einladung des Siebten Circuits akzeptiert. Dieser Fall allein entscheidet darüber, ob es sich um eine dauerhafte Kostenlinie handelt oder nicht.