영국 NHS(National Health Service)가 환자 서비스 개선 및 비용 절감을 위해 AI연구를 시작했다. AI 응용 프로그램을 통해 환자 치료를 개선, 2년 이내에 의료 서비스 질의를 로봇이 처리하도록하는 게 목표다.
최근 영국 보건사회복지부(Department of Health and Social Care)에 따르면 이 기술은 일부 유형의 암의 조기 진단을 개선, 잘못된 양성진단(false positives)으로 인한 불필요한 수술을 줄이며 임상 시험에 적합한 환자를 선택하는 등 NHS에서 이미 사용되고 있다. 진료 계획 및 질병 예측 및 진단에 도움을 준다.
인공지능을 활용하기 위해서는 민감한 의료 데이터 관리, 개인 정보 보호의 문제가 발생한다.
이에 영국 정부는 NHS가 가장 안전하고 안전한 데이터 기반 기술을 사용하고 환자 데이터를 보호 할 수 있도록 AI 코드를 만들었다.
AI 행동 강령은 정부가 NHS와 협력, 새로운 기술을 개발하는 것을 쉽게 만드는 방법을 설명하는 10 가지 원칙으로 구성된다.
이 분야의 우수 사례를 제시, 프라이버시를 손상시키지 않으면서 기술을 활용할 수 있음을 환자에게 확신시키고, 정부가 신기술 개발, 공급 업체와보다 쉽게 협력 할 수 있도록한다.
AI 행동 규범의 10 가지 원칙은 다음과 같다.
– 사용자, 사용자 요구 및 상황 파악
– 결과를 위해 기술이 어떻게 기여할 것인가 정의
– 사용 목적에 맞는 지침을 따르는 데이터 사용
– 공정하고 투명하며 책임있는 데이터 사용
– 공개 표준 활용
– 사용 데이터 및 배포 알고리즘의 한계에 대해 투명한 공개
– 개발 또는 배치되는 알고리즘의 유형, 데이터 사용 방법에 대한 윤리적 검토
– 성능을 검증하는 방법 및 의료 및 건강 관리에 어떻게 통합할지 공개
– 의도한 사용 및 가치에 대한 유효성 증명
– 설계 과정에서 보안 통합
– 상업화 전략 정의
AI 행동 강령의 추가 업데이트는 2019년 말에 발표 될 예정이다.
당국은 AI 윤리가 앞으로 10년 동안 핵심 과제가 될 것으로 전망했다. 인공지능의 윤리는 데이터 기반 의료기술을 구현할 때 특히 의료 윤리에 익숙하지 않은 분야와 협력할 때 핵심 고려 사항이다. AI 행동 강령은 AI의 투자에 대한 의지와 그 이점을 더 잘 이해하고 있음을 보여준다.
과학출판그룹 엘스비어(Elsevier) 컨설팅디렉터 윌슨은 “NHS에 대한 새로운 AI 지침은 AI의 윤리적 사용에 대한 정부 관심이 증가하는 것을 볼 수 있다. 감사의 표준을 제공하는 것이이 분야의 핵심적인 부분이다. 교육 자료가 어떻게 생성되고 수집되는지 이해하는 것이 중요하므로 잠재적 편견을 제거하기 위한 조치를 취할 수 있다. 또한 AI가 NHS의 의사 결정 지원 시스템에 사용되는 경우 의사 결정에 투명하고 이해할 수있는 근거를 제공하고 공정성을 보장하며 반론 또는 검토가 허용되도록하는 것이 중요하다”고 현지매체 버딕(Verdict)과의 인터뷰에서 말했다.
NHS의 다음 과제는 데이터 분석이 정확하다는 확신을 주는 것이다.
그는 “NHS의 가장 큰 도전은 데이터의 출처를 밝히고 원래의 연구에서 선택 과정이 무엇인지 이해하는 것이다. AI 훈련 데이터를 생성하고 의사결정을 투명하게 만드는 방법을 연구하는 작업이 진행되고 있지만 NHS는 분석을 정확하게 수행 할 수 있도록 데이터를 수집하고 표준화 할 수있는 시스템을 구축하는 것이 중요하다”고 덧붙였다.
피스토이아 얼라이언스(Pistoia Alliance) 컨설턴트 닉 린치(Nick Lynch) 박사는 인공 지능의 윤리가이 분야의 핵심 쟁점이 될 것이라고 생각한다.
그는 “인공지능 시스템이 우리 사회와 연구에서 결정을 내리고 이러한 데이터에 의도하지 않은 편향이 없도록 보장하기 위해 사용하는 데이터는 해결해야 할 과제다. 또한 AI가 주도하는 건강 관리 결정에 의도하지 않은 결과가 없음을 보여줄 수 있어야한다. AI에 관한 NHS의 지침은 올바른 방향으로 나아가는 긍정적 단계다. 우리는 이러한 AI 과제를 해결하기 위해 생명과학 및 의료산업이 함께해야한다고 믿는다. 규제 기관과 환자 모두에게 이해할 수있는 솔루션을 개발할 수 있다”고 밝혔다.
의료 및 보건, 생명공학 편집자.
Writing on Bio, Medical. M.D. Fellow Professor at SNUH.
