Después de estar limpio una vez, se aprende para siempre.

Un dispositivo médico se prueba, se aprueba y luego se considera seguro para su uso. Los reguladores vigilan para evitar cualquier problema después de su lanzamiento. Esa premisa es creíble solo porque asume que el dispositivo permanece estático. El 9 de septiembre, una comisión británica entregó al MHRA, el organismo regulador de medicamentos y dispositivos del país,44 recomendacionesEse ataque va directamente contra la premisa en sí, instando a que se deje de utilizar la inteligencia artificial en medicina y, en cambio, se supervise su uso durante todo su ciclo de vida.

El problema que obliga a una reevaluación es de carácter estructural, no burocrático. La aprobación de dispositivos médicos implica un algoritmo fijo: un instrumento de diagnóstico se considera eficaz en el momento de su autorización, y su comportamiento se considera constante posteriormente. Pero una IA adaptativa es diferente. Aprende de sus propios resultados después de ser desplegada, por lo que sus pesos –y, por lo tanto, lo que realmente hace al respecto con el paciente– cambian a medida que recibe nueva información. Un modelo aprobado en un hospital puede comportarse de manera diferente en otro hospital, en una población en comparación con otra. Un dispositivo que cambia sus propias reglas es, funcionalmente, un nuevo dispositivo cada vez que se actualiza. La seguridad y las responsabilidades ya no pueden determinarse en el momento de la aprobación, porque no existe un “objeto” estable para evaluar.

La solución propuesta por la comisión es un régimen basado en el ciclo de vida del producto.Autorización estructuradaSe trata de nuevos modelos que permitan su evolución, y de un nuevo sistema en el cual los hospitales que utilizan esos instrumentos pueden informar sobre su rendimiento en la práctica real, incluyendo casos en los que la IA actúa de manera incorrecta o dificulta la atención médica. La ambición se demuestra en los ejemplos que los funcionarios intentan lograr: por ejemplo, escanear millones de imágenes de ojos para detectar la retinopatía relacionada con la diabetes en pacientes del NHS. Es una tarea demasiado grande para poder validarla basándose en un modelo estático. La comisión…Presidido por Alastair DennistonUn clínico-investigador, y se basa en…“AI Airlock” de MHRAEl “sandbox” está probando dónde los dispositivos médicos de IA independientes se encuentran en situaciones donde no cumplen con las reglas existentes.

Dos reguladores, dos apuestas

Al otro lado del Atlántico, el otro regulador líder ha hecho una apuesta diferente. La FDA, sin saber cómo evaluar los dispositivos de IA generativa, ha admitido que…Cuatro compañías se unieron en un proyecto piloto llamado TEMPO.Eso les permite lanzar productos sin necesidad de una autorización completa de marketing, mientras la agencia establece los estándares correspondientes. Dos de las cuatro empresas, Cadence y Limbic, utilizan IA generativa. Los funcionarios de la FDA admiten que aún no saben cómo evaluarán ese producto. Gran Bretaña propone regularlo supervisándolo, mientras que Estados Unidos propone lanzarlo tal como está, aprendiendo en el proceso. Ambos son intentos de improvisación para superar la misma situación de falta de regulación previa.

Ciertamente, el instinto de que “la reforma significa un acceso más rápido, por lo tanto, debemos comprar tecnologías de salud” es parcialmente correcto y parcialmente peligroso. El objetivo es lograr un acceso más rápido. Pero hay que tener cuidado con quienes pagan por este tipo de sistemas. Un régimen de ciclo de vida con informes obligatorios por parte de los proveedores convierte a todos los desarrolladores en máquinas de registro de datos, y a cada hospital en una estación de monitoreo. Eso representa un costo fijo: algo trivial para las empresas tradicionales con departamentos regulatorios, pero costoso para las pequeñas empresas especializadas en tecnología de salud. La regulación de las máquinas de aprendizaje no es un mecanismo neutral. Es un mecanismo que amplía el “muro” alrededor de las empresas de tecnología de salud del mundo, lo cual ya lleva consigo una gran carga, y también aumenta el obstáculo que los nuevos competidores deben superar.

El costo de la confianza

Para el inversor, la pregunta real no es si la medicina basada en la inteligencia artificial será aprobada, sino cuánto costará esa aprobación y a quién le afectará. La dirección que tome este proceso –supervisión continua, evidencia en el mundo real, responsabilidad de los desarrolladores y proveedores– representa un obstáculo regulatorio para cualquier proyecto basado en la inteligencia artificial adaptativa. Se trata de un gasto operativo constante que debe ser considerado junto con el propio algoritmo. La señal general de AInvest sigue indicando que GE HealthCare, como empresa fabricante de dispositivos diversificados, debe ser considerada como una opción “comprar”. Pero tales recomendaciones son expectativas, no evidencia. La conclusión más segura es que, en el ámbito de la inteligencia artificial médica, el “guardián” se ha convertido en un costo constante y en un factor competitivo. Aquel que tenga un camino regulatorio sólido, tendrá un rentable negocio. Eso, no la inteligencia del modelo, es lo que determinará el valor real.