Agentes de IA que engañan a las personas: La cuantificación del riesgo relacionado con la liquidez criptográfica

La amenaza más grave radica en una taxonomía de ataques que revela un riesgo sistémico relacionado con la liquidez del mercado. Una sola instrucción maliciosa puede provocar la ejecución de miles de órdenes de venta por parte de miles de agentes de negociación automatizados, lo cual ataca directamente el flujo de órdenes de mercado. Este es el concepto de “Trampa Sistémica”. Se puede comparar esto con el colapso financiero del año 2010, cuando las ventas automatizadas eliminaron casi 1 billón de dólares en el valor de mercado en solo 45 minutos. En el mercado de criptomonedas, un informe financiero falso, lanzado en el momento adecuado, podría iniciar una cascada de órdenes de venta a través de estrategias basadas en IA.

La vulnerabilidad ya ha sido demostrada. Los “trampas de inserción de contenido”, que ocultan comandos maliciosos en metadatos HTML o imágenes invisibles, han tenido éxito en causar problemas.El 86% de los escenarios probadosEsta alta tasa de éxito permite la transferencia de datos de manera encubierta. Los investigadores obligan a los agentes de IA a transmitir contraseñas y datos bancarios en cada uno de los 10 intentos realizados. Estos ataques son muy sencillos de implementar; no se requiere ningún conocimiento especializado en aprendizaje automático para llevarlos a cabo.

El riesgo es permanente. OpenAI ha admitido que la vulnerabilidad relacionada con la inyección de prompts “es poco probable que se pueda resolver por completo”. Esto crea una situación problemática, ya que la superficie de ataque corresponde al entorno en el que operan los agentes, no a los propios modelos. El vacío legal en torno a la responsabilidad de los agentes comprometidos que ejecutan actos criminales también agrega otro nivel de incertidumbre a esta amenaza emergente.

El costo del fracaso: cancelaciones de proyectos y evasión de capital

La amenaza técnica se traduce directamente en un gran riesgo para el capital. Gartner predice que…El 40% de los proyectos de inteligencia artificial que involucran a agentes humanos serán cancelados para finales de 2027.Esto no es una pausa ni un ajuste en las estrategias utilizadas. Se trata de una retirada total de esa tecnología que promete una eficiencia transformadora. La tasa de fracasos es una clara advertencia sobre la volatilidad financiera inherente a este sector.

La diferencia entre el éxito y el fracaso es extremadamente grande. Klarna logró ahorrar aproximadamente 60 millones de dólares gracias a un sistema de múltiples agentes, lo que permitió reducir costos y mejorar la calidad del servicio. Sin embargo, en ese mismo año, esa misma tecnología tuvo una tasa de cancelaciones del 40%. Este desnivel muestra que los resultados financieros no dependen de mejoras graduales, sino de un resultado binario: éxito o fracaso, algo que está determinado por la arquitectura y el control de riesgos.

La nulidad legal de la responsabilidad en el caso de que un agente comprometido realice transacciones ilícitas crea un riesgo sistémico. Los custodios y las plataformas de intercambio enfrentan un nuevo riesgo, del cual no se puede cuantificar el alcance. Si un agente AI, engañado por una “trampa sistémica”, inicia una retirada o transacción fraudulenta, la cadena de responsabilidades se vuelve incierta. Esta incertidumbre agrega un nuevo nivel de riesgo operativo y financiero a todo el ecosistema de criptomonedas, donde la seguridad es de suma importancia.

Catalizadores y puntos de control: El “desencadenador de liquidez”

La teoría del riesgo sistémico se basa en un único evento observable: una venta coordinada de acciones que esté claramente relacionada con un informe de noticias falsas o con datos manipulados. Se trata del primer gran evento en el mercado en el que esto ocurre.Trampa sistémicaEl hecho de que los agentes de comercio automatizados logren sincronizar las ventas en miles de casos, sería la prueba definitiva del concepto. Esté atento a las caídas repentinas y drásticas en los precios de las principales criptomonedas, especialmente cuando esto ocurre junto con la publicación de informes financieros sospechosos o cuando los datos utilizados para el comercio están manipulados. En particular, si el volumen de negociaciones aumenta significativamente debido a estrategias automatizadas.

Una métrica clave para monitorear es la tasa de adopción de las defensas técnicas propuestas. El artículo publicado por DeepMind recomienda que…Sistemas de reputación para dominios de sitios webSe trata de una forma de reducir la exposición a contenido malicioso. Es importante monitorear si las principales bolsas de criptomonedas o proveedores de datos comienzan a implementar tales sistemas. Una adopción rápida en toda la industria sería una señal de que se está tomando medidas proactivas para enfrentar los riesgos. Por otro lado, una implementación lenta o parcial significaría que la vulnerabilidad sigue existiendo.

La claridad regulatoria en cuanto a la responsabilidad es el tercer punto crítico. La falta de regulaciones al respecto crea un gran obstáculo para la implementación de estas prácticas en las instituciones. Es importante estar atentos a cualquier propuesta regulatoria que intente definir esta responsabilidad, ya que tales medidas podrían alterar directamente el cálculo de riesgos y recompensas para los grandes inversores. Un marco regulatorio claro podría reducir el riesgo sistémico; por otro lado, una falta de regulaciones continuaría acelerando la fuga de capitales del sector.