Der stellvertretende Gouverneur des PBOC, Lu Lei, fordert klare Haftungsgrenzen für Agentenbasierte Zahlungen.

• Der stellvertretende Gouverneur des PBOC, Lu Lei, warnte vor den Risiken der Agentenbasen-Zahlungen, die die Grenzen der Haftung zwischen Verbrauchern, Institutionen und Algorithmen verwischen könnten.
• Die Zentralbank leitet die Payment Clearing Association an, eine selbstregulierende Konvention zu erlassen, um die Protokolle zu standardisieren und die Risikomanagement-Methoden zu verbessern.
• Die aktuellen, menschzentrierten Regelungsmechanismen sind für die stochastische Natur der autonomen KI-Transaktionen unzureichend. Deshalb sind aktualisierte Mechanismen zur Lösung von Streitigkeiten erforderlich.
• Die Marktinstitutionen müssen ihre technischen Ressourcen stärken, die Rechte der Verbraucher schützen und über verschiedene Protokolle koordinieren, um die Stabilität der Transaktionen zu gewährleisten.
• Die Initiative zielt darauf ab, einheitliche Regeln zu schaffen, um die mit den von KI gesteuerten Zahlungsinnovationen verbundenen Risiken zu bewältigen und das finanzielle Vertrauen zu gewährleisten.

Lu Lei, stellvertretender Gouverneur der Volksbank Chinas, sprach auf dem 15. China Payment and Clearing Forum. Er betonte, dass die Abwicklung von Zahlungen nicht die Grenzen der Haftung zwischen Kunden, Teilnehmenden Institutionen und Algorithmensystemen verwischen dürfen. Er wies darauf hin, dass Zahlungen im Grunde eine Übertragung der Kapitalbesitzes ist – was vorhersehbare Ergebnisse, klare Verpflichtungen und nachvollziehbare Prozesse erfordert. Die stochastische Natur großer Modelle sowie die mangelnde logische Transparenz bei autonomen Agenten führen dazu, dass die Übermäßige Übertragung von Transaktionsbefugnissen das finanzielle Vertrauen untergräbt.

Die heutigen Mechanismen zur Steuerung der Zahlungen und zur Lösung von Streitigkeiten basieren auf der Annahme, dass Menschen die endgültigen Entscheidungsträger sind. Das neue Modell der von Agenten initiierten oder unterstützten Transaktionen verwischt diese Grenzen – es ist daher notwendig, das System weiter zu optimieren. Lu Lei betonte, dass die Streitigkeiten im Bereich der Agentenzahlungen um Geschäftsvorschriften und technische Standards gehen. Die PBOC leitet die Payment Clearing Association an, eine Selbstdisziplinierungsrichtlinie für Agentenzahlungsanwendungen zu erlassen, um die Protokolle zu harmonisieren und die Risikomanagementverfahren zu verbessern.

Wie werden die Haftungsgrenzen für AI-Agenten neu definiert?

Die zentrale Sorge von Lu Lei ist, dass die aktuellen Regeln bezüglich der Zahlungsverwaltung und der Lösung von Streitfällen an Menschen als endgültigen Entscheidungsträgern ausgerichtet sind. Da Agenten immer häufiger Transaktionen initiieren und unterstützen, benötigen diese Regeln eine Aktualisierung, um die durch autonome Systeme entstandenen strukturellen Lücken zu überwinden. Die PBOC hat die Payment and Clearing Association dazu angeleitet, eine Selbstregulierende Konvention für agentenbasierte Zahlungsanwendungen herauszugeben, um diese neuen Herausforderungen zu bewältigen.

Diese Initiative zielt darauf ab, die Koordination bezüglich Protokolle und Standards zu verbessern. Gleichzeitig wird aufgefordert, dass Marktinstitutionen die Risikomanagementmaßnahmen verstärken, die Verbraucher schützen, technische Kapazitäten aufbauen und eine einheitliche Regelungssysteme etablieren. Die Zentralbank entwickelt aktiv umfassende Überwachungsregeln, damit die Finanzinstitutionen strenge Sicherheitsstandards einhalten können und robuste Kompatibilitätsmechanismen für Protokolle geschaffen werden. Diese Maßnahmen dienen dazu, Stabilität und Klarheit in autonomen Transaktionsumgebungen zu gewährleisten und die Vertrauensverluste bei der Überweisung von Mitteln zu verhindern.

Welche wichtigsten Risiken gibt es bei autonomen Zahlungssystemen?

Lu Lei warnt davor, dass die Übermäßigkeit der Entscheidungsbefugnisse für autonome Agenten das Vertrauen in die Transfers von Mitteln untergraben könnte. Er argumentiert, dass Zahlungstransaktionen vorhersagbare Ergebnisse, klar definierte Verantwortlichkeiten und nachvollziehbare Prozesse erfordern. Die aktuellen großen Modelle sowie autonomen Agenten hingegen weisen zufällige Ergebnisse und begrenzte Transparenz auf. Die Unklarheit der autonomen Agenten bei Zahlungen ist ein ernsthaftes Problem – schließlich macht dies die Haftung im Falle von Fehlern oder Streitigkeiten schwer nachvollziehbar.

Die PBOC aktualisiert die Governance-Rahmenwerke, um die Unklarheiten bezüglich autonomer Agenten in Zahlungen zu beseitigen. Dazu werden selbstregulierende Vorschriften erlassen, um Protokolle zu standardisieren und klare Verantwortlichkeiten zwischen Konsumenten, Finanzinstitutionen und Algorithmen sicherzustellen. Die Marktteilnehmer sollen diese Vorschriften umsetzen, den Schutz der Konsumenten in den Vordergrund stellen und die technischen Möglichkeiten in Bereichen wie großen Modellen verbessern. Zudem müssen sie die Koordination verschiedener Protokolle verbessern, um die Entwicklung der technischen Standards für agentenbasierte Zahlungen voranzutreiben.

Wie wird die Einhaltung der Vorschriften in der Industrie kontrolliert?

Die PBOC legt klare Haftungsgrenzen für agentenbasierte Zahlungen fest. Dabei wird betont, dass die aktuellen, humanzentrierten Regelungsmaßnahmen für autonome KI-Transaktionen unzureichend sind. Die Zentralbank entwickelt neue Selbstregulierungselemente, um Transparenz und Risikomanagement in algorithmischen Zahlungssystemen sicherzustellen. Dieser Schritt soll die Koordination von Protokollen und Standards verbessern, damit Finanzinstitutionen die mit KI-getriebenen Zahlungsinnovationen verbundenen Risiken effektiv bewältigen können.

Die Marktinstitutionen sind verpflichtet, die Risikomanagementmaßnahmen zu stärken, die Verbraucher zu schützen, technische Kapazitäten aufzubauen und eine einheitliche Regelung zu fördern. Die Selbstdisziplinierungskonvention bezüglich Agentenzahlungsanwendungen wird als wichtiges Instrument dienen, um die Protokolle zu harmonisieren und das Risikomanagement zu verbessern. Durch die Umsetzung dieser Standards kann die Branche die Entwicklung der technischen Standards für Agentenzahlungen vorantreiben – so dass die Übertragung des Finanzvermögens weiterhin vorhersagbar, nachvollziehbar und sicher bleibt in einem zunehmend automatisierten Finanzumfeld.