미국 식약청(Food and Drug Administration)이 인공지능과 머신러닝 알고리즘을 적용한 의료 기기 규제방안을 제시했다.

이번 주에 발표된 보고서는 ‘잠금 알고리즘(locked algorithms)’과 ‘적응 알고리즘
(adaptive algorithm) ‘ 두 가지 유형의 알고리즘을 분류, 설명했다.

잠금 알고리즘은 동일한 입력에 따라 동일한 결과를 반복적으로 제공한다. 출력값은 일반적으로 락업 테이블(look-up tables), 의사결정 트리 또는 분류자(classifiers)와 같은 항목을 기반으로한다.

적응형 알고리즘은 정의된 학습 프로세스를 사용해 동작을 변경한다. 학습 프로세스가 새로운 데이터로 수정되면 주어진 입력 집합에 대한 출력값이 변경 될 수 있다.

이들 알고리즘은 본질적으로 AI가 특정 작업을 수행하는 방법을 학습하기 위해 지도 학습(supervised training)이 필요한 심층학습(deep learning) 유형이다. 현재 AI 또는 기계 학습(ML)을 사용해 FDA 승인을 받은 대부분의 장치는 잠긴 알고리즘에 의존한다.

FDA는 적응형 알고리즘 분야에서 어려움을 겪고 있다.

진단을 위해 의료 데이터 패턴을 선택하는 데있어 심층 학습 및 신경 네트워크(neural networks)를 사용하는 경우가 폭발적으로 늘었다. 그동안 이러한 종류의 시스템을 다루는 방법에 대한 엄격한 가이드 라인을 마련해야 한다는 필요성이 제기돼 왔다.

이번 FDA 프레임 워크에 따르면 적응 알고리즘에 의존하는 의료기기는 상용화되기 전에 승인을 받아야한다. FDA는 승인후 알고리즘 변경이 장치의 성능, 효과에 미치는 영향에 미치는 영향을 검토한다. 환자의 안전 향상과 소프트웨어가 시간이 지남에 따라 지속적으로 변경되도록 허용하는 것 사이에 균형이 관건이다.

예를 들어 AI업체는 새롭고 방대한 데이터 세트로 종양의 유방 조영상을 분석하는 신경망을 재훈련해 정확성을 높일 수 있다. 또는 동일한 데이터 세트가 사용되지만 개발자가 특정분야 소스의 정보를 더 많이 포함하기로 결정할 수 도 있다. 이런 경우 해당 알고리즘은 상업적으로 사용되기 전에 FDA의 승인을 받기 위해 다시 제출돼야 한다.

AI 시스템이 원래 의도했던 것 이상으로 확장되는 경우에도 재승인이 필요하다. 업체가 당뇨병 성 망막증에 대한 망막 스캔을 검사하는 AI장치가 환자가 고혈압을 앓고 있는지 여부를 측정 할 수 있다고 판단하면 FDA를 통해 장치를 새로운 용도로 사용할 수 있는지 확인받아야 한다.

FDA 보고서는 의료 기기 규제의 전통적인 패러다임은 실시간으로 기기 성능을 조정하고 최적화해 환자의 건강 관리를 지속적으로 개선할 잠재력있는 적응형 AI 또는 ML 기술에 부적합하다고 밝혔다.

AI/ML 기술은 반복성, 자율성 및 적응성이 뛰어나 TPLC(total product lifecycle) 규제 접근 방식이 필요하다. TPLC는 신속한 제품 개선주기를 수립하고 효과적인 안전 장치를 제공하면서 지속적으로 향상시킬 수있다.

FDA는 해당 프레임 워크에 대해 적용 전 피드백을 받고 있다.