중국, 러시아, 미국 등 군사 강국 간의 인공지능(AI) 무기 경쟁이 인류 재앙으로 이어질 수있다는 우려가 제기됐다.

네덜란드에 기반을두고있는 국제평화운동단체 팍스(Pax)의 보고서는 소위 킬러로봇에 대한 선제적 금지 조치를 요구했다. 자율살상무기 기술의 발전은 사람들을 살리거나 죽일지를 결정하는 알고리즘을 남길 수 있다고 경고했다.

미국은 AI 기술의 차세대 물결을 개발하기 위해 20억 달러를 투자하고있다. 미국은 이미 ‘ATLAS’ 프로그램을 개발 중이며 이는 AI기반 기계학습(ML)을 활용해 지상전투차량에 자율 목표를 부여한다. 현재 수작업 프로세스보다 적어도 3배 이상 빠른 속도로 해당 무기 타겟을 획득, 식별 및 교전 할 수있게하는 능력을 제공한다.

보고서는 모든 국가에서 민간 부문과의 협력이 군부대의 AI 프로젝트에 필수적임을 제시했다. 프랑스 국방기업인 탈레스(Thales)와 같은 일부 회사는 자율살상 무기에 대한 명확한 입장을 취하고 있지만 다른 국가에서는 통제력이 약한 실정이다.

미국, 중국, 러시아 등 7 개국에서 AI 자율무기 추진을 검토한 결과를 담은 보고서는”AI 무기 경쟁은 … 승리하지 못하는 상황이 될 가능성이 더 높다. 그것은 불안정하고 갈등의 기회를 증가시킬 것이다. 경제, 정치, 사회적으로도 부정적인 영향을 미칠 것”이라고 말했다.

보고서는 치명적인 자율 살상무기(반응 시간을 단축하고 타격을보다 정확하게하기 위한) 개발이 무력 사용에 관한 의사결정 과정을 단축시키고 대량 살상 무기의 위험을 증가 시켰다고 말했다.

세계 군사 강국들은 AI에 막대한 투자를 했으며 무인 항공기, 무인 잠수함 등 자율살상 무기를 개발해 목표물을 탐지하고 자동으로 공격 할 수있는 방법을 모색하고 있다.

미국은 인공지능을 최우선 과제로 삼아 지난해 정부, 국방관련 기관들로 구성된 기술 개발을 감독하기 위한 공동 인공지능 센터(Joint Artificial Intelligence Center)를 설립했다.

중국은 AI와 무인 시스템에 초점을 맞춘 두 개의 주요 연구 기관을 설립해 미국과의 경쟁을 유지하고있다.

베이징은 전장에서 일어날 일을 예측하는 데 도움이되는 “알고리즘 게임”을 연구 중이다. 보고서에 따르면 러시아도 인공 지능 우선 순위를 정하고 있다. 이 기술 개발을위한 로드맵은 수개월 내로 발표 될 것으로 예상된다.

팍스(Pax)의 자율살상무기 프로젝트 책임자 덴 카이저(Daan Kayser)는 국제 사회가 치명적인 자율무기의 사용을 규제하는 명확한 국제 규칙에 따라 일할 것을 촉구했다.

카이저는 “우리는 인공지능 무기가 인간의 역할을 맡고, 스스로 목표물을 선택하고 공격하는 가까운 미래를 바라보고있다”며 “명확한 국제 규칙이 없으면 사람이 아니라 알고리즘이 알고리즘을 사용해 삶과 죽음을 결정할 수 있다”고 말했다.

이 보고서의 공동 저자 프랭크 슬리퍼(Frank Slijper)는 국제 협력과 투명성을 요구했다. 슬리퍼는 “투명성은 보안을 가져오고 이 군비 경쟁이 확대 진행되는 것을 막을 것”이라고 말했다.

역설적이지만 가장 큰 규모로 자율살상 연구개발을 진행중인 미국은 킬러 로봇이 잘못된 목표를 공격 할 위험을 줄이기 위한 구체적인 정책을 갖고있는 몇 안되는 국가 중 하나이기도 하다.

SCMP(South China Morning Post)에 따르면 2012년 펜타곤은 “무인 플랫폼과 통합되거나 이에 탑재된 반자동 무기 시스템은 통신이 저하되거나 소실되는 경우 시스템이 자발적으로, 권한이 부여된 작업자가 이전에 선택하지 않은 대상 그룹에서, 개별 대상을 선택하거나 하지 않도록 설계되어야한다”고 정의했다.

*관련 보고서(다운로드 링크)

‘The State of AI : Artificial Intelligence, the Military and Increasingly Autonomous Weapons’