# 최근 미국 십대가 애플(Apple)을 상대로 10억 달러 소송을 제기하고 나섰다. 원고(18세, Ousmane Bah)는 애플 안면인식 도구가 실수로 자신의 이름을 실제 도둑 얼굴과 매칭해 그가 저지르지 않은 애플 스토어 절도죄로 체포 됐다고 주장했다. NYPD 경찰들은 지난 가을 그를 체포한 후 범행자가 아님을 발견했다. 애플은 안면인식 기술을 사용하지 않는다고 주장했다.

애플뿐만 아니라 아마존(Amazon), 구글(Google) 등은 AI기술에 대한 불만을 심각하게 받아들여야하는 변곡점에 도달했다. 점증하는 불만은 샌프란시스코시를 포함한 시민들이 안면인식 기술에 대한 전면적 금지를 고려하고 있는 상황에 이르렀다. 안면인식기술은 이미지, 비디오 또는 실시간으로 얼굴의 특징을 분석해 개인을 식별한다.

아마존의 얼굴인식 AI ‘레코그니션(Rekognition)’ 판매 금지 투표도 그중 한가지 사례다. 얼굴인식 도구 레코그니션은 이미 법집행 기관에 판매돼 이민 및 세관 당국에 배포됐다. 그러나 인공지능 연구자들은 최근 공개서한에서 기술에 심각한 결함이 있다고 주장했다. 지난해 테스트결과, 미국 의회 28명의 의원을 범죄 용의자와 매치시키기도 했다. 아마존 주주들은 독립적 검토를 통과 할 때까지 정부기관에 도구 판매를 중단하는데 찬성표를 던졌다.

안면인식 기술 등 AI 도구 개발과 적용은 회사 안팎에서 큰 분열을 야기, 윤리적 논란과 바른 접근법을 찾기 위한 고심도 깊어지고 있다.

구글 기계 지능을 연구한 전직 스탠포드 교수 폴슨은 중국을 위해 ‘인권에 위배되는’ 검열 검색엔진을 개발하려는 계획(Project Dragonfly)에 항의해 사임했다. 최근 몇 달 동안 다른 구글 직원들은 펜타곤 클라우드 컴퓨팅 계약에 대한 입찰과 미국 정부의 AI 무기 프로그램 참여에 항의하기도 했다.

마이크로소프트(Microsoft), 바이두(Baidu), 센스타임(SenseTime) 및 텐센트(Tencent) 등 미국과 중국 기술 회사들은 군사감시 목적 AI기술을 개발할 것인지에 대해 다른 접근 방식을 채택했다.

앞서 구글이 안면인식 서비스를 정부에 판매하지 않기로 한 것과는 달리, 아마존과 마이크로소프트는 판매을 시도했지만 이후 입장을 번복했다. 그들은 또한 불공정한 오염 데이터를 입력, 편향된 프로그램 알고리즘 논란으로 비난받기도 했다.

시민운동가와 학자뿐만 아니라 직원들도 비난에 가세하며 기업들은 자체적으로 ‘AI 윤리 이니셔티브’를 구성해 통제를 시도했다. 구글 딥마이드(DeepMind)의 사회윤리 가이드라인 작성과 외부 감독패널을 소집한 것도 그런 노력의 일환이다. 그럼에도 지지자들과 비평가들 모두 아직 AI와 사회적 영향에 관한 논쟁을 촉발하는 것 이상의 결과를 얻지 못했다는 데 동의한다.

구글은 이 달 초 AI 외부 자문위원회 구성을 시도했지만 보수적인 싱크탱크 헤리티지재단(Heritage Foundation)의 케이 콜즈 제임스(Kay Coles James) 임명에 대한 직원들의 반발로 좌초했다.

업계의 보편적인 관행처럼 마이크로소프트, IBM 등도 윤리적 AI를 위한 가이드라인 목록을 마련했다. ‘아실로마(Asilomar)원칙’을 개발한 MIT 막스 테크마크(Max Tegmark) 교수가 주도한 미래의 생명 연구소(Future of Life Institute)는 전세계의 과학자들의 서명을 이끌어내기도 했다.

문제는 집행력이다. 기술의 윤리적 발전을 위해 설립된 비영리단체 ‘AI Now’는 최신 보고서에서 투명성과 집행력 부족을 문제로 지적했다. 기업은 윤리적 AI 가이드라인에 의사결정에 대한 집행력이나 문제 소지가 있는 결정을 뒤집을 수 있는 권한을 허용하지 않는다. 예를 들면, 딥마인드는 영국 보건 당국과의 민감한 관계를 조사하기 위해 2년 전 구성한 독립 검토위원회를 지난 11월 폐쇄했다.

많은 기업들이 학계, 시민 사회를 아우른 단체에 가입했다. 그러한 노력 중 하나로 AI 파트너십은 2017년 구글, 딥마인드, 페이스북(Facebook), 아마존, 애플 등이 참여해 설립됐다. 이 파트너십은 거의 90개의 그룹 참여, 그 중 절반은 비영리 단체, 학자 및 멕킨지(McKinsey)와 같은 컨설팅 업체 등이다.

AI 윤리 가이드라인에 대한 목소리의 다양성도 문제다. AI윤리 전문가 네트워크는 좁고, 업계의 윤리위원 및 임원들의 겸직도 흔한 일이다. 딥마인드 공동 창립자 무스타파 설리먼(Mustafa Suleyman)은 회사자체 윤리 조직을 운영하면서 동시에 구글의 고급 기술 검토위원회(Advanced Technology Review Council)에서 AI 파트너십 공동위원장을 맡고 있다.

최근 영국 파이넨셜타임즈에 따르면 중국에서는 기업들이 윤리적 AI에 대해 다각적 접근 방식을 취하고 있다.

홍콩 과학기술대학의 컴퓨터과학자이자 구글의 윤리평의회 위원 데 카이(De Kai)는 중국 기업들은 일반적으로 추상적 윤리적 원칙보다는 선의 방법으로 실제 세계의 문제를 해결하는 것에 더 관심이 있다고 말했다.

클라우드워크(CloudWalk), 이투(Yitu) 및 센스타임(SenseTime)과 같은 인공지능 기업은 중국 정부와 협력, 특히 위구르 무슬림과 같은 소수 그룹을 대상으로 얼굴 인식 및 예측정책을 실시한다.

지난 3월 바이두 최고경영자 로빈 리(Robin Li)는 윤리 토론에서 “일반인들에게 좋은 삶을 제공하는 것이 궁극적 목표”라고 강조했다. 텐센트는 웹 사이트에서 “공익 개발을 가속화하기 위해 기술을 사용하는 것”이 ​​목표 중 하나라고 선언했다.

전문가들은 이 분야는 여전히 초기 단계로 공감대 형성을 위해서는 민간 부문과 공공 부문 간의 공동 접근이 필요하다고 주장했다.

옥스포드대 플로리디(Floridi) 교수는 “공개 토론이없고 다양한 실험을 시도하지 않는다면 어떻게 해결책을 찾을 수 있겠는가”라며 “우리에게는 법, 자기 규제 및 여론이라는 세 가지 도구가 있다. 그들 모두를 사용해야 한다”고 파이넨셜타임즈 인터뷰에서 밝혔다.