AI 윤리와 인공지능 거버넌스

옥스포드 대학(University of Oxford) 컴퓨터공학과, 인공지능 윤리연구소(Institute for Ethics in AI), 인류미래연구소(Future of Humanity Institute) 연구원들은 지난해 NeurIPS(Neural Information Processing Systems) 컨퍼런스에서 AI 윤리 관련 요구사항 도입 영향과 의미를 논의하는 논문을 발표했다.

‘Nature Machine Intelligence‘에 실린 이 논문는 이러한 요구 사항의 성공 가능성을 극대화할 수 있는 일련의 조치를 권장한다.

연구를 수행한 칼리나 프런클(Carina E. Prunkl)과 동료들은 NeurIPS가 도입한 요구 사항의 가능한 이점, 위험 및 과제를 설명하기 위해 다양한 거버넌스 메커니즘을 조사한 연구 결과를 기반으로 했다. 또한 잠재적 문제를 완화할 수 있는 일련의 전략을 제안하고 이를 투명성, 지침, 인센티브 및 심의의 네 가지 주요 범주로 구분한다.

프런클은 “우리의 전반적인 목표는 잠재적 함정에 대한 인식을 높이고 커뮤니티 주도 거버넌스 메커니즘에 대한 지속적인 토론에 기여하고 프로세스를 개선하기 위한 건설적인 제안을 제공하는 것”이라며 “우리는 본질적으로 유사한 기관 검토위원회와 같은 다른 거버넌스 이니셔티브의 효과를 살펴보는 것으로 토론을 시작하고 연구자가 연구의 영향에 대한 성명서를 작성하는 것도 포함한다”고 말했다.

논문에서 이들은 앞선 AI 거버넌스 이니셔티브를 고려, NeurIPS의 광범위한 영향 성명 요구 사항의 잠재적 이점과 위험에 대해 논의했다. 마지막으로, 그들은 컨퍼런스 주최자와 ML 커뮤니티를 위한 제안 목록을 준비했다. 이러한 진술이 AI 개발에 긍정적 영향을 미칠 가능성을 높이는 데 도움이 될 수 있다.

주어진 기술의 광범위한 영향을 평가하고 예측하기 위해 연구원은 이상적으로 윤리 또는 사회학과 같은 분야의 배경 지식과 이론적 프레임 워크 및 이전 경험적 결과에 대한 강력한 지식을 가지고 있어야 한다. 논문은 과거 거버넌스 이니셔티브의 실패 또는 부정적인 영향에 대한 일련의 가능한 근본 원인을 설명한다. 이러한 원인에는 주어진 연구 또는 기술 도구의 광범위한 영향을 식별하려고 할 때 발생하는 내재적 어려움, 기관 또는 사회적 압력 및 연구자가 진술을 작성하는 데 도움이 되는 일반적인 지침의 부족이 포함된다.

프런클은 “우리의 주요 제안은 네 가지 주요 주제에 초점을 맞추고 있다. 첫째, 목적, 동기 및 기대에 대한 의사 소통을 포함하여 투명성을 개선하고 기대치를 설정하는 것, 이러한 진술을 평가하는 방법에 대한 절차적 투명성을 포함한다. 둘째, 이러한 진술을 작성하는 방법에 대한 지침과 심판을 평가하는 방법에 대한 지침을 모두 포함하는 지침을 제공한다”고 설명했다.

연구팀은 인센티브 설정의 중요성을 강조한다. 고품질 진술을 준비하는 것은 비용과 시간이 많이 소요될 수 있으므로 기관은 더 많은 연구자가 작업의 영향을 반영하는 데 상당한 시간과 노력을 투자하도록 장려하는 인센티브를 도입해야 한다고 생각한다.

프런클은 “한 가지 해결책은 진술 평가를 동료 검토 프로세스에 통합하는 것”이라며 “다른 옵션에는 지정된 상을 만들고 저자가 다른 영향에 대한 진술을 인용하도록 장려하는 것이 포함된다”고 설명했다.

이들이 강조한 네 번째 주제는 공공 및 지역 사회의 심의와 관련이 있다. 이 마지막 요점은 광범위한 영향 진술의 맥락을 넘어서며 연구자들은 AI를 관리하기 위한 모든 개입의 기초가 돼야 한다고 생각한다. 특히 ML 커뮤니티가 AI의 위험을 해결하기 위한 잠재적 조치를 고려할 수 있는 더 많은 포럼의 필요성을 강조한다.

연구팀은 준비한 제안 목록이 AI 개발과 관련된 가능한 문제를 탐색하기 위해 더 광범위한 영향 요구 사항을 도입하려는 NeurIPS 주최측 노력에 도움이 되기를 희망한다. 연구원들은 현재 연구 영향 진술을 준비하는 데 도움을 주기 위해 ML 연구원들과의 작업을 강화할 계획이다. 예

프런클은 “영향 성명에 대한 논쟁은 어떤 거버넌스 메커니즘을 채택해야 하며 어떻게 구현해야 하는지에 대한 합의의 부족을 강조했다”며 “논문에서 우리는 이러한 메커니즘에 대한 지속적이고 건설적인 심의의 필요성을 강조한다. 이러한 요구에 대응하여 저자 중 한 명인 Carolyn Ashurst (Solon Barocas, Rosie Campbell, Deborah Raji 및 Stuart Russell과 함께)가 NeurIPS ‘AI 연구의 광범위한 영향 탐색’주제에 대한 워크숍을 조직했다”고 말했다.

워크숍에서 참가자들은 NeurIPS 영향 성명과 윤리적 검토뿐 아니라 책임있는 연구 및 개발 아이디어에 대한 광범위한 질문에 대해 논의했다. 또한 주최자는 ML 연구 생태계 내에서 서로 다른 당사자가 수행할 수 있는 역할을 탐색했다.

앞으로 연구팀은 AI 거버넌스와 관련된 건설적인 심의 및 토론 기회를 더 많이 만들 계획이라고 밝혔다.

*Institutionalizing ethics in AI through broader impact requirements. Nature Machine Intelligence(2021). DOI: 10.1038/s42256-021-00298-y.