한 번 해결되면, 영원히 배우게 된다.

의료기기는 테스트를 거쳐 허가를 받은 후에야 사용될 수 있습니다. 규제 기관들은 출시 이후에 발생할 문제를 감시합니다. 이러한 전제는 기기가 정지된 상태에서 작동한다는 가정을 포함하고 있기 때문에만 안정적입니다. 9월 9일, 영국의 위원회는 해당 국가의 의약품 및 의료기기 규제 기관인 MHRA에 관련 정보를 전달했습니다.44개의 추천 사항이 공격은 기본 원칙을 직접적으로 도전하는 것으로, 의학 분야에서 인공지능을 사용하는 것을 중단하고, 그 대신 인공지능의 활용을 통제하도록 요구한다.

새로운 생각을 요구하는 문제는 관료적인 것이 아니라 구조적인 것입니다. 의료기기의 승인 과정은 고정된 알고리즘에 기반합니다. 즉, 진단 도구가 승인된 순간부터 그 기능이 일정하다고 가정됩니다. 하지만 적응형 AI는 다릅니다. AI는 배포된 후 자신의 결과를 통해 학습하기 때문에, 새로운 데이터를 접할 때마다 그 성능도 변합니다. 한 병원에서 승인된 모델은 다른 병원에서는 다르게 작동할 수 있습니다. 자신만의 규칙을 바꾸는 기기는, 업데이트될 때마다 새로운 기기가 됩니다. 안전성과 책임 문제는 더 이상 승인 단계에서 결정될 수 없습니다. 왜냐하면 안정적인 “그것”이 존재하지 않기 때문입니다.

위원회의 해결책은 생애주기 기반의 제도입니다. 이는…진행식 승인새로운 모델을 개발하여 그들의 발전에 맞춰서 사용할 수 있도록 하고, 또한 이러한 도구를 활용하는 병원들이 실제 환경에서의 성능을 보고할 수 있는 새로운 시스템도 필요합니다. 여기에는 AI가 잘 작동하지 않거나 치료를 방해하는 경우도 포함됩니다. 이러한 목표는 정부 관리자들이 달성하려는 사례들에서도 나타납니다. 예를 들어, NHS 환자들의 당뇨병 관련 망막병증을 파악하기 위해 수백만 개의 눈 이미지를 스캔하는 작업입니다. 이는 모델의 고정된 데이터와 비교하기에는 너무 큰 작업입니다.알라스테어 데니스턴이 회장으로 있음클리닉 의사이자 연구원으로서, 이를 바탕으로 발전시킨다.MHRA의 “AI 에어록”샌드박스는 독립적인 AI 의료 장비가 기존의 규칙들을 어기는 부분을 조사하는 역할을 합니다.

두 명의 규제자, 두 명의 도박꾼

대서양 건너편에서는 다른 주요 규제 기관이 다른 전략을 취하고 있습니다. FDA는 생성형 AI 장치를 어떻게 평가해야 할지 모르고 있어서 인정했다.4개 회사를 하나의 프로젝트로 통합하여 TEMPO라는 이름의 프로젝트를 진행함.이를 통해 그들은 전체적인 마케팅 승인 없이 제품을 출시할 수 있으며, 규정이 확립될 때까지 실제 환경에서 데이터를 수집할 수 있습니다. 네 회사 중 두 곳인 Cadence와 Limbic는 생성형 AI를 사용합니다. FDA의 관계자들도 아직 그 기술을 어떻게 평가할지 모른다고 인정합니다. 영국은 완전히 알 수 없는 것을 감독함으로써 규제하려고 합니다. 미국은 완전히 알 수 없는 것을 실제로 사용하면서 학습하려고 합니다. 둘 다 과거에 일괄적으로 허용되던 상황이 무너진 상황에 대응하는 임시적인 방법일 뿐입니다.

물론, “개혁이란 더 빠른 접근을 의미한다고 해서 건강 기술을 구입해야 한다”는 본능은 반쪽은 맞지만 반쪽은 위험한 것입니다. 더 빠른 접근이 목적이긴 하지만, 누가 지속적인 신뢰를 제공하는지 주의해야 합니다. 의무적인 보고 체계를 따르는 생애주기 관리 방식은 모든 개발자를 영구적인 증거 기계로 만들고, 모든 병원을 모니터링 센터로 만듭니다. 이는 고정비입니다. 규제 부서가 있는 다양한 기업들에게는 문제가 되지 않지만, AI 건강 기술 분야의 소규모 스타트업들에게는 큰 부담이 됩니다. 학습 기계에 대한 규제는 중립적인 장치가 아닙니다. 이는 전 세계의 GE HealthCares와 같은 회사들의 경계를 더욱 높이는 메커니즘입니다. 그러면 새로운 진입자들이 넘어야 할 장벽도 커집니다.

신뢰의 비용

투자자에게 중요한 문제는 인공지능 의학이 승인될지는 아니냐가 아니라, 그 승인에 드는 비용이 얼마나 될지, 그리고 그 비용이 누구에게 부담되는지입니다. 지속적인 감독, 실제 환경에서의 증거, 개발자와 제공자의 책임 등은 모든 적응형 인공지능 전략에 있어서 규제적 요소로 작용합니다. 이는 알고리즘 자체와 함께 고려해야 할 지속적인 비용입니다. AInvest의 평가 결과는 다각화된 장비 제조업체인 GE HealthCare를 ‘구매할 만한 기업’으로 분류하지만, 이러한 평가는 예측일 뿐, 실제 증거는 아닙니다. 더 안전한 결론은 좁은 범위에 머물러 있습니다. 의료 인공지능의 경우, 규제 체계는 지속적인 비용이자 경쟁력의 기준이 됩니다. 오래 지속되는 규제 체계를 가진 기업이야말로 경쟁력을 가진 기업입니다. 모델의 뛰어난 성능이 아니라, 바로 이 점이 가치가 경쟁되는 곳입니다.