エージェンтиックAIはすでに金融業界で利用されています。Global Watchdogは、この技術の導入がシステムリスクをさらに拡大する可能性があると警告しています。

エージェンтиックAIは、問題の焦点を「予測」から「制御」へと変えています。

市場では、AIを金融分野でのモデルとして捉えているのが現状です。しかし、実際には、それをもっと慎重に捉えるべきです。行動・制御物語です。

過去10年間との大きな違いは、予測の精度が向上したという点ではありません。重要なのは、処理を委託できるようになったことです。以前のAIでは、主に人間の判断を補助する役割しか果たせませんでした。信用スコアリング、不正行為の検出、監視、予測そして、文書処理の面でも、エージェンチックAIは異なります。なぜなら、エージェンチックAIは、単に人間に対して行動を指示するだけでなく、自ら計画を立て、各ツールを呼び出し、生産システム内で作業を進めることができるからです。

その区別は重要です。なぜなら、養子縁組というのは、理論上のものではなく、実際に見られるものだからです。ケンブリッジ調査においても、52％の人が、実際にそのアイデアを採用していると報告しました。その企業の中で、23％は変革や拡大を進めており、29％は実証実験を行っていました。AIがアドバイスから実際の行動へと移行すると、評価の基準は単にモデルの質だけではなくなります。問題が発生したときには、どちらがその結果をコントロールできるかが重要になります。

だからこそ、ブルーとベアーの間の分断が非常に激しいのです。ブルーは、…を見ています。効率の向上そして、より厳しい運営が求められます。ベアーたちは、新たなエラー拡大の可能性があると考えています。FSBは、自律型AIによって許可されていない行動や、データの漏洩、接続されたシステムの障害などが起こる可能性があると警告しています。こうしたリスクは、迅速に現れる可能性があります。現在、市場では、エージェンタルな効率を実現する企業と、より厳しい監視や遅い導入コストを負担しなければならない企業を区別する必要があります。

なぜ、規制当局は速度や調整の効率、そして共通の故障モードに注目するのか

利点は確かですが、同時にリスクも高まります。

企業は、名声のためにAIを活用しているわけではありません。経済的な利点が明らかです。ガートナーによると、より良いデータコンテキストを持つことで、より良い成果を得ることができるというのです。最大で80％の精度向上が期待できます。2027年までには、コストが最大60％削減されるでしょう。しかし、そのような好転の反面、失敗のリスクも高くなります。

エージェントが単に推奨するだけでは、悪い結果は主に修正コストに過ぎません。しかし、エージェントが実際に行動を起こすと、同じエラーが実際の損益や流動性の問題、あるいは決済上の問題になることもあります。規制当局は、洞察と行動の間のこの大きな違いに注目しています。

支払いのデータから、ローカルなエラーがどのように広がっていくかがわかります。

最初の伝達経路は、支払いの仕組みです。BISの報告書では、エージェンタルAIを次のように定義しています。明示的な人間の指示に基づく取引の開始から、エージェントが中間的な決定を行うようになるまでのプロセスこれにより、確率的なエージェントの行動と、決定性を持つ支払いシステムの要求との間に緊張が生じます。

実際には、誤ったルーティング決定や、時宜を失した流動性対応、または不適切なコンプライアンスフラグなどが、人間の注意を引く前に、あるワークフローから別のワークフローへと移動することがあります。そして、この問題は単一の機関に限らない。同じモデルを提供するベンダーやオーケーションレイヤ、データパイプラインであっても、局地的な問題が複数の企業に広がる可能性があります。

データのコンテキストとは、隠された増幅器のようなものです。

ここで、ガートナーの提案の意義が明らかになります。問題は、文脈がないデータがある場合であり、単にモデルが破綻しているわけではありません。意味的な関係やビジネス規則、データの経路などが不十分な場合、エージェントは間違った前提に基づいて行動してしまう可能性があります。

これは、システムの安定性にとって重要です。なぜなら、データの質が悪いという問題は、単独で発生することがほとんどないからです。メインドータのエラーや、古くなった参照データ、または一貫性のないタグ付けなどが、複数の後処理プロセスを一度に破壊してしまう可能性があります。エージェンシー型ワークフローでは、それは単なる「データの問題」として扱われることはありません。それは、実行の際の問題へと変わってしまいます。

第三者の集中化により、あるベンダーが単なる「普通の存在」に変わってしまうことがあります。

FSBは、このことを警告している。少数の重要な第三者プロバイダーに依存する姿勢そして、その他の脆弱性もあります。これらは、システムの重大性、集中性、および代替可能性に関連しています。つまり、これが第二のアンプリファイアです。もし、複数の銀行や決済業者、資産管理会社が同じエージェントプラットフォームやモデルサービスを利用している場合、単一の障害が発生すると、それが地域全体に広がってしまう可能性があります。

英国の議論も同様の方向を指しています。当局者たちは、この機会の重要性を認めています。AIの安全な導入また、外部のAIプロバイダーに過度に依存するリスクもあります。規制上の限界とは、革新そのものではなく、不安定なコントロールシステムへの過度な依存です。

投資家が注意すべき点は、アプリケーションの導入コストの差です。

現在、市場では、エージェンタルAIを単なる生産性向上の手段としてではなく、より実際的な行動制御の手段として捉えるようになってきています。この変化は、時宜を得ていると言えます。採用の速度が速くなります。同じ瞬間に、規制当局は新たな制御手段を求めており、各企業に対してセーフガードを設けるよう促している。つまり、AIに関する発表を行うすべての企業に同じ待遇を与えるべきではないのだ。セーフガードを設けている企業と、単にモデルをワークフローに接続しているだけの企業とを区別する必要がある。

おそらく、勝者になる人々は…

おそらく、優れたパフォーマンスを発揮するのは、すでにデモ版を超えて進化している企業たちでしょう。ケンブリッジのデータによると、導入を行っている企業は単に実験を行っているだけではありません。多くの企業が、自社の機能を拡大したり、変革したり、あるいは実際に実験的な運用を行っています。これは重要です。なぜなら、エージェンシー型AIというのは、単なる抽象的なソフトウェアではないからです。それは、特定の目的のために設計されているのです。企業のツールやワークフローと統合できます。そして、ある程度の権限を委任されることもあります。実行がシステムに組み込まれる場合、モデルへのアクセスから実装の品質へと、重点が移ります。

そこが、ガートナーのアプローチが実際に有効になる点です。より優れたデータを活用できる企業は、大きな貢献をすることができます。AIの精度を向上させるためのエージェント機能一方、より弱いシステムでは、信頼性の低い結果を生む自動化への投資をすることになります。実際には、市場は、ワークフローを厳格に管理し、説明責任が明確で、データの意味が明確な企業を支持するべきです。単に導入速度が速いからといって、それだけでは不十分です。

今後数四半期における監視ポイントの状況

以下のような合図に注意してください：

• 採用は継続的に増加していますが、報告されるコントロールの失敗や再作業、規制上の問題は限定的です。もしそうであるならば、そのリスクについての記述はおそらく過大評価されていると言えます。
• 企業は、アグリーティングエンジニアがどの程度の範囲で核心的なワークフロー内で行動できるかを明らかにしています。特に、彼らが関与する部分についてはそうです。認可、流動性管理、決済、コンプライアンスまた、運営上の回復力も重要です。
• データの構造が弱い企業は、エージェンシー型のプランを実際の生産自動化に変換することが難しいです。
• 少数のモデルベンダー、クラウドベンダー、オーケストレーションベンダーに集中する傾向が、報告書や監査のコメントにおいてより明確になってきています。