El subgobernador del PBOC, Lu Lei, exige límites claros para las responsabilidades en los pagos basados en agentes.

• El vicegobernador del PBOC, Lu Lei, advirtió que los pagos basados en agentes pueden hacer que los límites de responsabilidad entre consumidores, instituciones y algoritmos se vuelvan más difusos.
• El banco central está guiando a la Asociación de Liquidación de Pagos para que emita una convención de autorregulación con el objetivo de estandarizar los protocolos y mejorar la gestión de riesgos.
• Los marcos actuales de gobernanza centrados en los seres humanos son inadecuados para la naturaleza estocástica de las transacciones de IA autónoma. Por lo tanto, es necesario implementar mecanismos más modernos para resolver disputas.
• Las instituciones del mercado deben fortalecer las reservas técnicas, proteger los derechos de los consumidores y coordinar entre diferentes protocolos para garantizar la estabilidad de las transacciones.
• La iniciativa tiene como objetivo establecer reglas unificadas para gestionar los riesgos relacionados con las innovaciones de pago impulsadas por la inteligencia artificial, y así mantener la confianza financiera.

Lu Lei, vicegobernador del Banco Popular de China, habló en el 15º Foro de Pagos y Liquidación de China, destacando que los pagos realizados por intermediarios no deben borrar las fronteras de responsabilidad entre los consumidores, las instituciones participantes y los sistemas algorítmicos. señaló que el pago es, en esencia, una transferencia de propiedad de fondos, lo cual requiere resultados predecibles, responsabilidades claramente definidas y rastros legibles. La naturaleza estocástica de los grandes modelos y la falta de transparencia lógica en los agentes autónomos significan que la delegación excesiva de autoridad en las transacciones socava la confianza financiera.

Los mecanismos actuales de gobernanza de pagos y resolución de disputas se basan en la premisa de que los humanos son los responsables finales de tomar decisiones. El nuevo modelo de transacciones iniciadas por agentes o con ayuda de ellos oculta estas líneas divisoras, lo que requiere una optimización del marco estructural. Lu Lei destacó que las disputas relacionadas con los protocolos en el ámbito de los pagos realizados por agentes son conflictos relacionados con reglas comerciales y estándares técnicos. La PBOC está guiando a la Asociación de Liquidación de Pagos para emitir una convención de autodisciplina relacionada con las aplicaciones de pagos realizados por agentes, con el fin de armonizar los protocolos y mejorar la gobernanza de riesgos.

¿Cómo se redefinen los límites de responsabilidad para los agentes de IA?

La preocupación principal expresada por Lu Lei es que los marcos actuales de gobernanza de pagos y resolución de disputas están diseñados para utilizar a las personas como los tomadores de decisiones finales. A medida que los agentes comienzan a iniciar y ayudar en las transacciones, estos marcos necesitan ser actualizados para abordar las deficiencias estructurales causadas por los sistemas autónomos. El PBOC ha orientado a la Asociación de Pagos y Cobertura para emitir una Convención Autorreguladora sobre Aplicaciones de Pagos basadas en Agentes, con el fin de resolver estos desafíos emergentes.

Esta iniciativa tiene como objetivo mejorar la coordinación en cuanto a los protocolos y estándares, al mismo tiempo que invita a las instituciones del mercado a fortalecer los controles de riesgos, proteger a los consumidores, desarrollar capacidades técnicas y apoyar la establecimiento de reglas unificadas. El banco central está desarrollando activamente normas de supervisión integral para garantizar que las instituciones financieras mantengan estrictos estándares de seguridad y establezcan marcos de compatibilidad de protocolos sólidos. Estas medidas tienen como objetivo garantizar la estabilidad y claridad en los entornos de transacciones autónomas, evitando así la erosión de la confianza en las transferencias de fondos.

¿Cuáles son los principales riesgos de los sistemas de pago autónomos?

Lu Lei advirtió que otorgar autoridad excesiva en la toma de decisiones a los agentes autónomos podría socavar la confianza en las transferencias de fondos. Argumentó que las transacciones de pago requieren resultados predecibles, responsabilidades claras y procesos transparentes. En cambio, los modelos grandes y los agentes autónomos actuales sufren de resultados aleatorios y falta de transparencia. La opacidad de los agentes autónomos en las transacciones de pago es una preocupación importante, ya que dificulta la rendición de cuentas en caso de errores o disputas.

El PBOC está actualizando los marcos de gobernanza para abordar la opacidad de los agentes autónomos en los pagos. También está estableciendo un conjunto de normas de autoregulación para estandarizar los protocolos y garantizar límites claros de responsabilidad entre consumidores, instituciones financieras y algoritmos. Se espera que los participantes del mercado implementen estas normas, den prioridad a la protección de los consumidores y fortalezcan las capacidades técnicas en tecnologías avanzadas como los modelos grandes. Además, deben mejorar la coordinación entre los diferentes protocolos, a fin de promover el desarrollo de estándares técnicos para los pagos basados en agentes.

¿Cómo se llevará a cabo la aplicación de las normas de cumplimiento en la industria?

El PBOC establece límites claros de responsabilidad para los pagos realizados a través de agentes automatizados. Se señala que los marcos de gobernanza basados en el ser humano actuales son insuficientes para gestionar las transacciones realizadas por inteligencia artificial autónoma. La banco central establece nuevas normas de autoregulación para garantizar la transparencia y el control de riesgos en los sistemas de pago algorítmicos. Esta iniciativa tiene como objetivo mejorar la coordinación en cuanto a protocolos y estándares, de modo que las instituciones financieras puedan gestionar eficazmente los riesgos relacionados con las innovaciones de pago impulsadas por la inteligencia artificial.

Se exhorta a las instituciones del mercado a fortalecer los controles de riesgos, proteger a los consumidores, desarrollar capacidades técnicas y apoyar la establecimiento de normas unificadas. La Convención de Autodisciplina sobre Aplicaciones de Pago por Agentes será una herramienta clave para armonizar los protocolos y innovar en la gobernanza de los riesgos. Al implementar estas normas, la industria puede avanzar en el desarrollo de estándares técnicos fundamentales para los pagos por agente, asegurando que la transferencia de propiedad de fondos sea predecible, rastreable y segura en un entorno financiero cada vez más automatizado.