날로 발전을 거듭하는 인공지능(AI)기술은 가짜 영상, 음성을 통한 범죄, 자율살상 무기 개발 등 군사 목적으로도 활용되고 있다.

미 육군은 연구원들은 함께 군사 작전에 참여할 AI로봇을 개발 중이다. 미 국방부 국방고등연구기획국(DARPA)은 “자율 기계 팀구축(autonomous machine teaming)” 연구 프로젝트에 자금을 지원하고 있다.

미국 조달청(Federal Business Opportunities, FBO) 홈페이지에서는 “중앙 컨트롤이 제한될때 물리적으로 분산된 AI지원 시스템(멀티 에이전트 시스템) 그룹의 자율적 팀 구성을 위한 새로운 접근방식이 필요하다”고 밝혔다.

이러한 시스템의 예로는 무인 항공기(UAV), 위성, 지상 센서 및 로봇과 같은 것들이 있다. 현재는 인간이 관련 시스템을 제어하는 책임이 있다. DARPA는 입력 데이터로 추론 할 수 있는 시스템을 구축해 사람의 감독 없이도 자동으로 결정을 내릴 수 있기를 원한다. 이 프로젝트에 투입된 자금은 총 금액은 100만 달러다.

딥 페이크로 알려진 ML 기술로 사실적인 사진과 비디오를 생성하는 것이 더 쉽고 저렴해지면서 가짜 영상도 논란이다.

이를 악용한 미국 트럼프 대통령 등 정치 지도자의 가짜 영상 등은 국제적 혼란을 초래할 수 있다. 특히 10억 이상이 사용중인 페이스북 등 쇼셜네트워크(SNS)에서 모든 영상의 진위를 포착하기는 어렵다.

이에 기계학습(ML) 알고리즘으로 조작된 가짜 이미지 딥페이크(Deepfake) 영상을 탐지하는 DFDC(Deepfake Detection Challenge)가 최근 열렸다. 첼린지에는 페이스북(Facebook), MS뿐만 아니라 MIT, 코넬대, 영국 옥스포드대 등 AI 연구원들이 참여했다.

페이스북은 DFDC를 후원, 1000만 달러를 지불키로 했다. 연구원들은 데이터 세트를 구축하고 도전에 참여하고자하는 엔지니어에게 보조금과 상을 수여할 계획이다. 주어진 데이터 세트로 훈련을 위한 ML 모델을 만들어 딥페이크를 얼마나 잘 탐지 할 수 있는지 테스트해야한다.

페이스북 데이터는 훈련 데이터 세트에 포함되지 않았다. 페이스북은 최근 사용자 계정에 대한 자동 얼굴인식을 해제했다고 발표했다. 사용자 본인이나 친구가 사진상 인물의 얼굴에 태그를 추가 할 때 SNS 계정에서 얼굴인식을 설정하지 않은 경우 사람들의 이름을 자동으로 나열하지 않는다.

딥페이크 영상과 함께 보이스피싱에도 음성 복제에 ML 모델이 사용된 사례가 나왔다 .

범죄자들은 ML를 사용해 보험사 CEO 목소리를 모방, 직원에게 €22만 유로(약 2억 8,954만원 )를 송금 받았다. 월스트리트저널(Wall Street Journal)에 따르면 이 일당은 익명의 피해 보험사 CEO를 사칭해 시급히 현금 전송을 요청했다. 돈은 멕시코로 이체되고 다른 지역으로 분산 송금되기 전에 헝가리 은행 계좌에 입금됐다. 용의자는 아직 밝혀지지 않았다.