설명가능한 AI

인공지능(AI)에서 의사결정을 자동화하거나 향상시키려는 기업이 늘어나면서 이른바 ‘블랙박스’ 즉 의사결정의 불투명성 문제는 극복해야 할 과제였다. 미국 방위고등연구계획국(DARPA)의 ‘XAI(설명 가능한 AI)’ 프로젝트는 이 문제를 적극적으로 연구해왔다. 업계에서도 AI 의사결정의 해석 가능성은 기계학습(machine learning) 연구의 중심이다. 최근 구글 브레인(Google Brain) 과학자는 인공 지능 시스템이 기계학습 알고리즘에서 복잡하고 까다로운 작업을 통한 결론에 도달한 방법을 설명하는 데 도움이 되는…