Einschließlich der Beseitigung – und das Wissen bleibt für immer.

Ein medizinisches Gerät wird getestet und zugelassen – anschließend wird es als vertrauenswürdig angesehen. Die Regulierungsbehörden überwachen das Gerät nach seiner Einführung, um eventuelle Probleme zu verhindern. Diese Annahme ist nur angemessen, weil davon ausgegangen wird, dass das Gerät sich nicht bewegt. Am 9. September überreichte eine britische Kommission der MHRA, der nationalen Behörde für Arzneimittel und medizinische Geräte, ein Dokument.44 EmpfehlungenDieser Angriff greift die Grundprämisse direkt an und fordert dazu auf, das Einsetzen künstlicher Intelligenz in der Medizin aufzugeben und stattdessen deren Entwicklung während ihrer gesamten Lebensdauer zu überwachen.

Das Problem, das eine Neudefinition erfordert, ist strukturell – nicht bürokratisch. Die Genehmigung für medizinische Geräte folgt einem festgelegten Algorithmus: Ein diagnostisches Gerät wird in dem Moment, in dem es genehmigt wird, als funktionierend angesehen; sein Verhalten wird anschließend als konstant angesehen. Eine adaptive KI hingegen lernt von ihren eigenen Ergebnissen nach dem Einsatz des Geräts. Daher ändern sich ihre „Werte“ – und somit auch die Art und Weise, wie das Gerät mit dem Patienten umgeht – je nach neuen Daten. Ein Modell, das in einem Krankenhaus genehmigt wurde, kann in einem anderen Krankenhaus oder bei einer anderen Bevölkerungsgruppe anders verhalten sein. Ein Gerät, das seine eigenen Regeln ändert, ist funktional jedes Mal ein neues Gerät, wenn es aktualisiert wird. Sicherheit und Haftung können nicht mehr am Zeitpunkt der Genehmigung geklärt werden – schließlich gibt es keinen stabilen „Gegenstand“, den man genehmigen könnte.

Die Lösung der Kommission ist ein Lebenszyklusbasierter Regime. Es schlägt vor…Gestufte GenehmigungEs geht um neue Modelle, die ihre Entwicklung ermöglichen, sowie um ein neues System, bei dem die Krankenhäuser, die diese Tools einsetzen, ihre tatsächlichen Leistungen melden – einschließlich der Fälle, in denen die KI falsche Entscheidungen trifft oder die Versorgung behindert. Die Ambition zeigt sich in den Beispielen, die die Beamten anstreben: beispielsweise das Scannen von Millionen Augenbildern, um die mit Diabetes verbundenen Retinophern bei Patienten des NHS zu erkennen. Dies ist eine Aufgabe, die zu groß ist, um sie mit einem „frozen“-Modell abzuleiten.Vorsitzend: Alastair DennistonEin Kliniker-Forscher – und er baut auf…MHRA’s „AI Airlock“Das „Sandbox“-Modell dient dazu, herauszufinden, wo die eigenständigen AI-medizinischen Geräte gegen die bestehenden Regeln verstoßen.

Zwei Regulatoren, zwei Wetteinsätze

Auf der anderen Seite des Atlantiks hat der andere führende Regulator eine andere Strategie gewählt. Die FDA weiß nicht genau, wie sie generative-AI-Geräte bewerten soll – daher hat sie das eingestanden.Vier Unternehmen wurden zu einer Pilotgruppe namens TEMPO zusammengeführt.Das ermöglicht es ihnen, Produkte ohne vollständige Marktzulassung zu veröffentlichen – während die Behörden die Standards festlegen. Zwei der vier Unternehmen, Cadence und Limbic, nutzen generative KI. Die Beamten der FDA geben zu, dass sie noch nicht wissen, wie sie diese Produkte bewerten werden. Großbritannien schlägt vor, das Problem durch Überwachung zu regeln – während Amerika vorschlägt, das Produkt einfach zu veröffentlichen und dabei von den Ergebnissen lernen zu können. Beides ist eine Art Improvisation gegen die gleiche Krise, die durch die einstige vollständige Zulassung entsteht.

Sicherlich ist der Instinkt, dass „Reformen bedeuten eine schnellere Zugänglichkeit – also den Kauf von Gesundheitstechnologie“ – zu etwa 50 Prozent richtig und zu 50 Prozent gefährlich. Die Absicht ist zwar eine schnellere Zugänglichkeit – aber wer bezahlt die Kosten für diese ständige Überwachung? Ein Regime, bei dem es um verbindliche Berichterstattungen seitens der Anbieter geht, macht jeden Entwickler zu einer Art „Beweissammlungsmaschine“ und jedes Krankenhaus zu einer Überwachungsstation. Das ist ein festes Kostenaufwand – für diversifizierte Unternehmen mit Regulierungsabteilungen einfach, für kleine, reinen Start-ups, die sich auf die AI-Gesundheitstechnologie spezialisiert haben, jedoch sehr schwierig. Die Regulierung von Lernmaschinen ist keine neutrale Lösung. Es handelt sich dabei um ein Instrument, das die Barrieren für die weltweiten Anbieter erhöht – und damit auch die Hürden für Neueinsteiger.

Die Kosten des Vertrauens

Für den Investor ist die eigentliche Frage nicht, ob die medizinische Anwendung von KI genehmigt wird – sondern wie viel Kosten das erfordern wird und wem diese Kosten auferlegt werden. Die Richtung der Entwicklung – ständige Überwachung, Belege aus der Realität, Verantwortlichkeit von Entwicklern und Anbietern – stellt eine regulatorische Hürde für jede Theorie bezüglich adaptiver KI dar. Es handelt sich dabei um wiederkehrende Kosten, die neben dem Algorithmus selbst berücksichtigt werden müssen. Die aggregierte Signalgebung von Investor’s Aggregate signal gibt noch immer an, dass GE HealthCare, ein diversifizierter Gerätehersteller, als „Kaufaktion“ einzustufen ist. Doch solche Einschätzungen sind nur Erwartungen – keine Beweise. Die sicherere Schlussfolgerung ist daher etwas enger. In der medizinischen KI ist der „Schlüsselhersteller“ zu einer wiederkehrenden Kosten und zu einem wichtigen Wettbewerbsfaktor geworden. Wer einen nachhaltigen regulatorischen Weg hat, hat auch einen nachhaltigen Vorteil. Das ist es, worum es bei der Wertbildung geht – nicht die Intelligenz des Modells.