一度解決すれば、永遠に学べる

医療機器はテストされ、承認を受けた後で初めて信頼される。その後、規制当局が機器が問題を引き起こさないかを監視する。この前提は、機器が動かないという仮定に基づいているため、安心できるものである。9月9日には、英国の薬品・医療機器規制機関であるMHRAに対して、ある委員会から報告がなされた。44の推奨事項それは、この前提を直接攻撃し、医学分野における人工知能の利用を一旦停止させ、その活動期間中にその管理を行うよう求めている。

再考を迫る問題は、官僚的なものではなく、構造的なものです。医療機器の承認には固定されたアルゴリズムが存在します。診断ツールが承認された瞬間に有効であると判断され、その後の動作は一定とされています。しかし、適応型AIとは異なります。AIは出荷後に自分の出力から学習するため、その重みや、患者に対して実際にどのように働くかは、新しいデータが得られるにつれて変化します。ある病院で承認されたモデルは、別の病院や、異なる人口集団では異なる動作を示す可能性があります。自らのルールを変更する機器は、更新されるたびに新しい機器となります。安全性や責任については、安定した基準がないため、承認の段階で決定することはできません。

この委員会の対策は、ライフサイクルに基づく制度です。それは次のように提案されています。段階的な承認新しいモデルを導入し、その進化に合わせて対応する。また、このシステムにより、そのツールを使用する病院は、AIがうまく機能しないか、治療を妨げるようなケースを含む実際のパフォーマンスを報告できる。この目標は、例えばNHSの患者における糖尿病関連の網膜症を追跡するために数百万枚の眼科画像をスキャンするという取り組みにも表れている。これは、モデルの固定したデータでは検証できないほど大規模な作業である。委員会は…アラステア・デニストンが会長を務める臨床医兼研究者であり、それに基づいて研究を行う。MHRAの「AIエアロック」サンドボックスというものは、独立したAI医療機器が既存の規則に違反する場所を調査している。

2人の規制官、2つの賭け

大西洋の向こう側では、もう一つの主要な規制機関が別の戦略を選んでいます。FDAは、生成型AI装置をどのように評価すべきかわからないため、認めることにしたのです。4社をTEMPOというパイロットプロジェクトに統合したこれにより、彼らは完全なマーケティング許可を得ることなく製品を発売することができ、一方で当局が規格を決定する間に実際のデータを収集することができる。4社のうち2社、すなわちCadenceとLimbicは生成型AIを利用している。FDAの職員も、どのようにしてその製品を評価するかまだわからないと認めている。英国は、完全には把握できないものを監督することで規制することを提案している。アメリカは、完全には把握できないものを発売し、その過程で学ぶことを提案している。どちらも、かつての一時的な承認制度の崩壊に対する対応策である。

確かに、「改革というのは、より迅速なアクセスを意味するので、ヘルステクノロジーを購入すべきだ」という考えは、半分は正しいが、もう半分は危険です。より迅速なアクセスが目的ですが、そのために誰が負担するかが問題です。義務的な提供側の報告制度があると、すべての開発者は常時監視される存在になり、病院は監視所になってしまいます。これは固定費であり、規制機関を持つ多様な企業にとっては問題ないかもしれませんが、AIヘルステクノロジーを扱う小さなスタートアップにとっては負担が大きくなります。学習機械の規制は中立的な手段ではありません。それは、既に負担を背負っているGEヘルスケアスの防壁をさらに高める仕組みであり、新規参入者が乗り越えなければならない障壁を高めるものです。

信頼のコスト

投資家にとって重要なのは、AI医療が承認されるかどうかではなく、その承認にはどれくらいのコストがかかるか、そしてそのコストは誰が負担するかということです。適応型AIの発展の方向性――継続的な監督、実際の利用状況に関する証拠、開発者や提供業者への責任――は、どんな適応型AIプロジェクトにとっても規制上の問題であり、アルゴリズム自体と同様に、定められるべき運用費用です。Invest社の総合的な判断では、多様なデバイスを製造するGE HealthCareは「買い」とされていますが、このような判断は予想に過ぎず、実際の証拠ではありません。より安全な結論は、より具体的なものです。医療分野でのAIにおいては、規制当局が持つ権限が持続的なコストであり、競争力の基準となります。そして、持続的な規制体制を持つ者が、持続的な利益を得るのです。モデルの巧妙さではなく、こちらが価値の争点となるのです。