Débarrassé une fois, apprenant pour toujours

Un dispositif médical est testé, approuvé et ensuite accepté par les autorités réglementaires. Les autorités surveillent également pour éviter tout problème après son lancement. Cette hypothèse est convaincante, car elle suppose que le dispositif reste immobile. Le 9 septembre, une commission britannique a remis les documents nécessaires à la MHRA, l’autorité réglementaire chargée des produits pharmaceutiques et médicaux au Royaume-Uni.44 recommandationsCet attaque vise directement la prémisse en question ; elle exige que l’on cesse de développer l’intelligence artificielle dans le domaine médical et qu’on en assume plutôt la supervision tout au long de son cycle de vie.

Le problème qui nécessite une réflexion nouvelle est de nature structurelle, et non bureaucratique. L’approbation des dispositifs médicaux repose sur un algorithme fixe : un outil de diagnostic est considéré comme fonctionnel au moment de son autorisation, et son comportement est ensuite considéré comme constant. Une IA adaptative est différente. Elle apprend à partir de ses propres résultats après son déploiement, de sorte que ses paramètres – et donc ce qu’elle fait réellement pour le patient – changent en fonction des données nouvelles. Un modèle validé dans un hôpital peut avoir un comportement différent dans un autre hôpital, ou dans une population donnée par rapport à une autre. Un dispositif qui change ses propres règles est, en réalité, un nouveau dispositif chaque fois qu’il est mis à jour. La sécurité et les responsabilités ne peuvent plus être déterminées au moment de l’approbation, car il n’y a pas de “dispositif” stable à valider.

La solution proposée par la commission est un régime basé sur le cycle de vie du produit. Elle proposeAutorisation déguiséeDes nouveaux modèles sont nécessaires pour permettre leur évolution, ainsi qu’un nouveau système permettant aux hôpitaux qui utilisent ces outils de communiquer leurs performances dans la réalité, y compris les cas où l’IA ne fonctionne pas correctement ou entrave les soins. L’ambition est visible dans les exemples que les autorités tentent de réaliser : par exemple, scanner des millions d’images oculaires pour détecter les troubles rétinopathiques liés au diabète chez les patients du NHS. C’est une tâche trop importante pour être vérifiée à l’aide d’un modèle figé. La commission…Présidé par Alastair DennistonUn clinicien-rechercheur, et s’appuie sur…L’“AI Airlock” de l’MHRALe « sandbox » permet de tester comment les dispositifs médicaux intelligentes indépendants peuvent dépasser les règles existantes.

Deux régulateurs, deux pariers

À l’autre côté de l’Atlantique, le autre organisme régulateur principal a fait une décision différente. La FDA, ne sachant pas comment évaluer les dispositifs basés sur l’IA générative, a admis…Quatre entreprises se sont unies pour créer une initiative pilote appelée TEMPO.Cela leur permet de lancer des produits sans avoir de l’autorisation marketing complète, tout en collectant des données réelles pendant que l’agence établit les normes nécessaires. Deux des quatre entreprises, Cadence et Limbic, utilisent l’IA générative. Les responsables de la FDA admettent qu’ils ne savent pas encore comment évaluer ces produits. La Grande-Bretagne propose de réguler ce qui ne peut pas être compris entièrement par des règles strictes ; l’Amérique propose d’expérimenter ce qui ne peut pas être compris entièrement et d’apprendre au fur et à mesure. Toutes deux sont des solutions improvisées face à cette défaillance de la procédure de validation unique.

Certes, l’instinct selon lequel « la réforme signifie un accès plus rapide, donc achetez des technologies de santé » est à moitié juste et à moitié dangereux. L’objectif est bien un accès plus rapide. Mais il faut se méfier de ceux qui paient pour maintenir cette confiance continue. Un système de gestion du cycle de vie des produits médicaux avec des obligations de rapport obligatoires par les fournisseurs transforme chaque développeur en une machine de collecte de données permanente, et chaque hôpital en une station de surveillance. C’est un coût fixe : trivial pour les entreprises existantes dotées de départements réglementaires, mais coûteux pour les petites startups spécialisées dans les technologies de santé. La réglementation des machines d’apprentissage n’est pas un mécanisme neutre. C’est plutôt un mécanisme qui agrandit le fossé entre les entreprises mondiales comme GE HealthCares, qui déjà portent ce fardeau, et qui renforce les barrières que les nouveaux entrants doivent surmonter.

Le coût de la confiance

Pour l’investisseur, la question vraie n’est pas de savoir si les médecines basées sur l’IA seront approuvées, mais combien cela coûtera et à qui cela coûtera. La direction à suivre – un suivi continu, des preuves en milieu réel, une responsabilité des développeurs et des prestataires – représente un coût réglementaire pour toute proposition liée à l’IA adaptative. Ce sont des dépenses opérationnelles qui doivent être prises en compte, tout comme l’algorithme lui-même. Le signal global de Invest indique toujours que GE HealthCare, une entreprise spécialisée dans la fabrication d’équipements médicaux, devrait être considérée comme une valeur élevée, mais ces conclusions sont des attentes à tester, et non des preuves concrètes. La conclusion plus sûre est donc plus limitée. Dans le domaine de l’IA médicale, le rôle du régulateur devient une dépense constante et une condition de compétitivité. Celui qui possède une voie réglementaire stable obtient ainsi des avantages permanents. Ce n’est pas la intelligence du modèle qui compte, c’est ce qui sera disputé en termes de valeur.