California ha convertido los contenidos sexualmente explícitos generados por IA en una carga económica recurrente para OpenAI, Meta y Google.

El 14 de enero de 2026, el fiscal general de California ordenó que xAI de Elon Musk se…Deja de permitir que Grok produzca imágenes sexualmente explícitas de personas reales.Se citó una ley estatal sobre “deepfakes” que entró en vigor dos semanas antes, con sanciones de $25,000 por cada infracción. Fue la primera señal clara de lo que California está construyendo en secreto: un sistema en el que los materiales de abuso sexual infantil generados por IA no son considerados como un problema temporal que se puede solucionar de forma puntual, sino como un costo permanente que recae sobre quienquiera que desarrolle y alojé el modelo.

Para los inversores en OpenAI, Meta, Google y Anthropic, la cuestión ya no es si sus equipos de seguridad y confianza “gestionan” este problema. La cuestión es si el estado ha convertido el problema de la moderación en un costo operativo constante y una carga financiera que aumenta con cada imagen que estos modelos generan.

Qué cambios realmente tuvo lugar en California

El enfoque de California combina tres elementos. AB 1831, firmado en 2024.Se criminalizó la creación, posesión y distribución de material CSAM generado por IA.La norma AB 621, que entrará en vigor en enero de 2026, permite a los fiscales demandar a las plataformas y a los laboratorios de IA que “ayuden y faciliten” de manera imprudente la distribución de deepfakes no consensuados. Establece una indemnización legal de hasta $250,000, y no requiere que se demuestre que la persona representada haya sufrido un daño real. La aplicación de esta norma contra xAI fue el primer paso en su implementación.

Un tercer proyecto de ley está en la mesa de Gavin Newsom en este momento. El AB 1946, presentado al gobernador el 3 de septiembre, amplía la definición legal de CSAM para incluirlo en ella.Representaciones íntimas de una “persona identificable que es menor de edad”.Y requiere que las plataformas revisen los materiales reportados por personas físicas, siempre que no haya coincidencias de hashes establecidas con contenido conocido de CSAM. Esa última cláusula es la más costosa: exige que haya una revisión humana sobre ese contenido, algo que las herramientas automatizadas de comparación de hashes no pueden hacer. Se trata de imágenes generadas o manipuladas por la IA, que no tienen ningún registro previo.

El problema de la escala es el punto clave. La CyberTipline de NCMEC pasó de tener alrededor de 4,700 informes AI-CSAM en 2023 a…Más de 400,000 en la primera mitad de 2025La Fundación Internet Watch contó…3,443 videos de CSAM generados por IA en 2025, un aumento del 26,385%.Desde el año 13, encontró el año anterior. La producción generativa aumenta en órdenes de magnitud; la responsabilidad de revisión aumenta detrás de ella.

El costo que se niega a ser barato

Se trata de un mapa que muestra dónde se filtran los fondos, y una línea destaca en él. La ingeniería de detección: clasificadores, herramientas para determinar la procedencia de las imágenes, bibliotecas de hashes… es un costo de capital que, con el tiempo, produce resultados cada vez menores. El plan que Meta ha revelado…Automatiza más del 90% de los procesos de revisión de contenido con la inteligencia artificial.Se muestra que esta línea puede ser reemplazada. Pero no se lleva consigo el resto del pipeline.

Lo que persiste es la relación entre la revisión humana y las responsabilidades legales. Dado que el AI-CSAM está diseñado para parecer una fotografía real hecha por un aficionado, y porque los infractores ahora responden a las acusaciones afirmando que el abuso fue causado por “IA”, la detección de tales situaciones sigue siendo algo problemático. La exigencia de revisión humana establecida en la AB 1946 significa que una persona debe examinar personalmente aquellos casos de alto riesgo que los algoritmos no pueden resolver. Y como las sanciones se determinan según cada infracción, el jurado de Nuevo México…Ganar $375 millones para Meta en marzo de 2026.Bajo la ley de protección al consumidor, el límite máximo es de 5,000 dólares por infracción. Eso es una fracción del monto de 2 mil millones de dólares que los fiscales buscan. Cada negativa falsa implica un costo monetario mínimo. Se trata de una situación que puede ser considerada como negligencia; eso significa que hay un costo legal y un precio de seguro que aumenta con la cantidad de imágenes riesgosas, y no es un costo fijo desde el principio.

Los cuatro no son iguales. Meta y Google tienen una posición favorable en términos de exposición. Una semana de marzo de 2026 provocó una sentencia de 375 millones de dólares contra Meta en Nuevo México, y 6 millones de dólares en California, donde se nombraron a Meta y Google como responsables. Además, más de 2,300 casos relacionados con la seguridad infantil fueron presentados ante los tribunales federales, y los abogados generales estatales también intervienen en estos casos. OpenAI y Anthropic, por su parte, son empresas privadas; por lo tanto, los costos se reflejan en mayores inversiones en seguridad, lanzamientos más lentos de modelos de imagen, y, eventualmente, en márgenes de beneficio más bajos. xAI ya ha demostrado este patrón: hay demandas reales de personas que sufrieron abuso, cuyas imágenes utilizadas para generar nuevos materiales han sido usadas como base para las acciones legales.Acciones legales relacionadas con xAI y Stability AI.Nada de esto es algo importante para estos estados financieros: los 375 millones de dólares de Meta son una cantidad pequeña en comparación con sus ganancias anuales. Pero se trata de una actividad recurrente y creciente relacionada con el negocio de la inteligencia artificial; cada uno de ellos apuesta por el futuro de este sector.

Los signos que podrían destruir la tesis

La argumentación contra esta visión está en curso en este momento. A finales de agosto de 2026,Un panel del Séptimo Circuito dictaminó que la posesión de material CSAM generado completamente por IA es un delito.La imagen de un niño que no existe en realidad constituye un discurso protegido según los precedentes del Tribunal Supremo. Esto, en realidad, invita al tribunal a reconsiderar esa línea. Si ese razonamiento se extiende para proteger a las partes involucradas en la producción o el alojamiento de contenidos, entonces la carga de cumplimiento y los riesgos legales disminuyen. Ese es el más fuerte contra-signál en el mercado; por eso, esta es una tesis que debe ser seguida, y no una posición que se pueda vender a precios bajos.

Así que hay tres opciones más económicas. Si la detección confiable realmente se vuelve más barata… si el plan de automatización de Meta funciona y las exigencias de revisión humana y los costos asociados a las violaciones disminuyen con ello… si no surgen nuevos casos judiciales además de los ya presentados… o si los tribunales reducen la responsabilidad de la plataforma, al igual que lo hicieron con la posesión individual… entonces los costos recurrentes disminuirán. Pero actualmente, todas esas condiciones se cumplen en direcciones opuestas: la aplicación de las leyes se acelera, se emiten sentencias, y la exigencia de revisión humana se convierte en parte de la ley.

La perspectiva de tipo inversor es una línea de referencia precisa, y no una predicción de desastre. California ha convertido el contenido sexual infantil generado por IA en un costo constante que aumenta con la cantidad de contenido generado: mano de obra necesaria para garantizar la seguridad, reservas legales que se acumulan según las daños causados por cada violación, y seguros que cubren todo ese costo. La ingeniería de detección se convierte en algo comercializable; pero la relación entre responsabilidades y revisiones no lo hace. Es importante observar los números relacionados con la mano de obra necesaria para garantizar la seguridad, en espera de los veredictos estatales y de las próximas medidas legales. Y, sobre todo, ¿aceptará la Corte Suprema la invitación del Séptimo Tribunal? Ese único caso es la diferencia entre una línea de costos duradera y aquella que no se puede controlar.