La brecha de gobernanza que frenaba a la IA en las finanzas

El fundador de Eliza Labs, Shaw Walters, ha enfatizado que, aunque los agentes autónomos de IA están avanzando rápidamente en los ecosistemas de blockchain, aún no están listos para administrar los activos financieros de manera responsable. Este aviso aparece cuando Eliza Labs hace la transición de su token experimental $ai16z al token $elizaOS listo para la producción, que impulsa a los agentes de IA en redes comoSolanayEthereumEl token $elizaOS, diseñado para facilitar las operaciones entre cadenas para las aplicaciones DeFi, ha permitido a las entidades gestionar flujos de trabajo complejos y optimizar carteras, pero Walters enfatizó que tales sistemas requieren marcos de gobernanza sólidos antes de manejar el capital real[1].

El ecosistema ElizaOS, que ahora se valora en más de $20 mil millones, muestra aplicaciones prácticas como Agent Bond Desk, que ajusta los términos de los bonos usando $elizaOS, y Spartan, un administrador de liquidez que reequilibra las carteras de manera automática. Sin embargo, Walters señala que estas herramientas permanecen en entornos controlados, lo que destaca los riesgos de implementar IA en escenarios financieros no regulados o de alto riesgo. «Hemos pasado de una caja de arena experimental a una infraestructura lista para la producción», dijo, «pero la transición a la gestión del dinero real exige una supervisión rigurosa para evitar errores, sesgos o comportamientos impredecibles».[1».

Los desarrollos regulatorios en Singapur subrayan estas preocupaciones. En diciembre de 2024, la Autoridad Monetaria de Singapur (MAS) publicó directrices para la gestión de riesgos de modelos de IA, enfatizando la necesidad de gobernanza, transparencia y evaluación de riesgos en los sistemas financieros de IA[^. El documento describe las mejores prácticas, incluyendo la supervisión multifuncional, el seguimiento del inventario de IA y la validación independiente de modelos. El MAS también destacó los riesgos únicos de la IA generativa, como las alucinaciones y las vulnerabilidades de seguridad de los datos, instando a las instituciones a adoptar medidas de seguridad técnicas como filtros de entrada/salida y implementaciones de nube privada[[3].

El debate sobre el papel de la IA en las finanzas cobró urgencia a medida que Singapur se posicionó como un centro para la innovación financiera impulsada por la IA. La ministra de Desarrollo Digital, Josephine Teo, señaló que la IA podría mejorar la eficiencia en sectores como la gestión patrimonial, citando las herramientas impulsadas por IA de UBS para agilizar la incorporación de clientes[Sin embargo, también advirtió sobre los riesgos, incluyendo las evaluaciones sesgadas y los errores costosos, y enfatizó la importancia de plataformas como el Proyecto Moonshot, una asociación entre la AI Verify Foundation y el Autoridad de Desarrollo de Medios Infocomm de Singapur para probar la seguridad de la IA“[5]

La posición de Walters se alinea con estas medidas regulatorias y advirtiendo de la industria. Si bien los agentes de Eliza Labs demuestran capacidades técnicas, argumenta que los sistemas actuales no tienen la responsabilidad y la transparencia que se requieren para la administración financiera. "Los agentes de IA hoy sobresalen en automatización y optimización, pero administrar el dinero implica complejidades éticas, legales y operativas que requieren supervisión humana", afirmó[1 Este punto de vista refleja un consenso más amplio de la industria, ya que el MAS y las instituciones financieras de Singapur priorizan los marcos para mitigar los riesgos de IA antes de acelerar el despliegue[^ 3].

A medida que los agentes de IA evolucionan, la intersección de la innovación y la reglamentación dará forma a su adopción en las finanzas. El llamado a la cautela de Walters subraya la necesidad de esfuerzos de colaboración entre desarrolladores, reguladores e instituciones para garantizar que el potencial de la IA en los sistemas financieros se materialice de manera responsable.