Le vice-gouverneur du PBOC, Lu Lei, exige des limites claires concernant les responsabilités dans les paiements basés sur des agents.

• Lu Lei, vice-gouverneur du PBOC, a averti que les paiements basés sur des agents posent un risque de floutage des frontières de responsabilité entre consommateurs, institutions et algorithmes.
• La banque centrale guide l’Association de clearing des paiements afin qu’elle émette une convention de régulation autonome, afin de standardiser les procédures et d’améliorer la gestion des risques.
• Les cadres de gouvernance actuels centrés sur l’humain sont insuffisants face à la nature aléatoire des transactions d’IA autonome. Il est donc nécessaire de mettre en place des mécanismes de résolution des conflits adaptés à cette situation.
• Les institutions du marché sont appelées à renforcer les réserves techniques, à protéger les droits des consommateurs et à coordonner les différents protocoles afin d’assurer la stabilité des transactions.
• Cette initiative vise à établir des règles unifiées pour gérer les risques liés aux innovations de paiement pilotées par l’IA, et ainsi préserver la confiance financière.

Lu Lei, vice-gouverneur de la Banque populaire de Chine, a parlé lors du 15e Forum chinois sur les paiements et le règlement, soulignant que les paiements effectués par des agents ne doivent pas obscurcir les limites de responsabilité entre les consommateurs, les institutions participantes et les systèmes algorithmiques. Il a indiqué que le paiement est avant tout un transfert de propriété des fonds, ce qui exige des résultats prévisibles, des obligations clairement définies et des traces traçables. La nature aléatoire des grands modèles et l’insuffisance de transparence logique chez les agents autonomes signifient que une délégation excessive des pouvoirs de transaction compromet la confiance dans le système financier.

Les mécanismes actuels de gestion des paiements et de résolution des conflits reposent sur l’idée que les humains sont les décideurs ultimes. Le nouveau modèle de transactions initiées par des agents ou assistées par eux obscurcit ces frontières, ce qui nécessite une optimisation des cadres de fonctionnement. Lu Lei a souligné que les conflits liés aux protocoles dans le domaine des paiements automatisés concernent en réalité des questions relatives aux règles commerciales et aux normes techniques. La PBOC guide l’Association de Clairance des Paiements pour que celle-ci émette une convention de discipline personnelle concernant les applications de paiement automatisés, afin d’harmoniser les protocoles et d’innover dans la gestion des risques.

Comment les frontières de responsabilité des agents IA sont-elles redéfinies ?

La préoccupation principale soulevée par Lu Lei est que les systèmes actuels de gestion des paiements et de résolution des litiges sont conçus en fonction des humains en tant que décideurs ultimes. Comme les agents participent de plus en plus aux transactions, ces systèmes doivent être mis à jour pour combler les déficits structurels causés par les systèmes autonomes. La PBOC a encouragé l’Association des Paiements et du Crédit à élaborer une convention de régulation auto-définie pour les applications de paiement basées sur des agents, afin de relever ces défis émergents.

Cette initiative vise à améliorer la coordination en ce qui concerne les protocoles et les normes. Elle demande également aux institutions du marché de renforcer les contrôles des risques, de protéger les consommateurs, de développer des capacités techniques et d’apporter un soutien au établissement de règles unifiées. La banque centrale travaille activement à mettre en place des règles de surveillance complètes afin que les institutions financières maintiennent des normes de sécurité strictes et des cadres de compatibilité des protocoles solides. Ces mesures visent à assurer la stabilité et la clarté dans les environnements de transactions autonomes, afin d’éviter l’érosion de la confiance dans les transferts de fonds.

Quels sont les principaux risques des systèmes de paiement autonomes ?

Lu Lei a souligné que donner une autorité excessive de décision aux agents autonomes pourrait saper la confiance dans les transferts de fonds. Il a affirmé que les transactions de paiement nécessitent des résultats prévisibles, des responsabilités clairement définies et des trajets transparents. En revanche, les grands modèles et les agents autonomes actuels présentent des résultats aléatoires et une transparence limitée. L’opacité des agents autonomes dans les transactions de paiement est une préoccupation importante, car elle rend difficile l’assurance de la responsabilité en cas d’erreurs ou de litiges.

La PBOC met à jour les cadres de gouvernance afin de remédier à l’opacité des agents autonomes dans le domaine des paiements. Elle émet également des règles de régulation auto-approuvées pour standardiser les protocoles et assurer des limites claires en matière de responsabilité entre les consommateurs, les institutions financières et les algorithmes. On s’attend que les acteurs du marché mettent en œuvre ces règles, donnent la priorité à la protection des consommateurs et renforcent les capacités techniques dans des technologies avancées comme les grands modèles. Ils doivent également améliorer la coordination entre les différents protocoles afin de favoriser le développement des normes techniques fondamentales pour les paiements automatisés.

Comment la conformité industrielle sera-t-elle appliquée ?

La PBOC impose des limites claires en matière de responsabilité pour les paiements basés sur des agents automatiques. Elle souligne que les cadres de gouvernance actuellement en vigueur, centrés sur les humains, sont insuffisants pour gérer efficacement les transactions automatisées par l’IA. La banque centrale établit ainsi de nouvelles règles de régulation auto-définies afin d’assurer la transparence et le contrôle des risques dans les systèmes de paiement algorithmiques. Cette initiative vise à améliorer la coordination des protocoles et des normes, afin que les institutions financières puissent gérer efficacement les risques liés aux innovations de paiement automatisées par l’IA.

Les institutions du marché sont appelées à renforcer les contrôles des risques, protéger les consommateurs, développer les compétences techniques et soutenir l’établissement de règles unifiées. La Convention de Discipline Autonome concernant les applications de paiement par agents servira de outil clé pour harmoniser les protocoles et innover dans la gestion des risques. En mettant en œuvre ces normes, l’industrie peut contribuer au développement de normes techniques fondamentales pour les paiements par agents, garantissant ainsi que le transfert de propriété des fonds reste prévisible, traçable et sécurisé dans un environnement financier de plus en plus automatisé.