# 인간 고유의 것으로 여겨졌던 감정 서비스등에도 인간을 대신할 수 있는 기계가 나오고 있다. 영국 연구기관은 인간 노동의 47% 기계 대체가능하다고 보고하기도 했다. 관련 연구들은 기술 발달로 인간의 일자리는 줄어들고 소득도 감소하는게 2000년 이후 현실이라고 말한다. AI 미래에 잘못 대처하면 장기적 경기침체가 일어날 수 있는 환경이다.

#미국, 중국 등 40여개 국가가 ‘로봇 전쟁’시대 킬러로봇 개발과 실전 활용을 서두르고 있다. 킬러 로봇은 테러리스트 은신처 드론 공격 및 감시, 스나이퍼·폭발물 제거, 분쟁지역 경비, 무인함정 등 실전에 활용되고 있다. 유일한 차단방법은 국제 협정과 금지다.

14일 서울 대한상공회의소 국제회의장에서 열린 시사주간지 ‘시사인’ 주최 2018 인공지능 컨퍼런스에서는 ‘인공지능, 인간의 선택을 묻다’를 주제로 현실로 다가오는 AI시대를 사회 윤리적 측면에서 논의했다.

이 자리에는 로봇윤리 부문 석학 도날드 아킨( Donald C. Arkin) 미국 조지아공대(Georgia Tech) 교수, ‘로봇세’를 주창한 앨런 윈필드 영국 브리스톨(UWE) 로보틱스랩 교수, ‘포스트 자본주의’저자 폴 메이슨(Paul Mason) 영국 BBC방송 저널리스트가 참석했다. 국내에서는 정재승 KAIST 교수 , 이진경 서울과학기술대 교수가 참석했다.

4차산업혁명 “아톰과 비트가 일치하는 시대가 오고 있다”

이날 컨퍼런스는 참석자들의 기조강연과 토론으로 진행됐다. ‘인공지능과 함께 살아가기’를 주제로 첫번째 기조강연을 맡은 정재승 교수는 4차산업혁명(4IR) 핵심에 인공지능과 빅데이터가 있다고 강조했다.

73일마다 데이터량이 배증하는 빅데이터 시대에 대한 언급으로 강연을 시작한 정 교수는 “아톰과 비트가 일치하는 시대가 오고 있다”고 강조했다. 아톰으로 구성된 물질의 세계는 원본이 경제적 가치를 만들어낸다. 반면, 정보의 최소 단위인 비트로 이야기 되는 IT세계에서는 원본과 복제본의 차이가 없다. 처리 속도는 무한대고 비용도 들지 않는 세계다.

정교수는 “두 세계가 일치하게되면 새로운 패러다임이 필요하게 된다”며 “이를 4차 산업혁명라 부른다”고 설명했다.

이어 그는 “노동없는 사회를 고민해야할 시점”이라며 “사람의 노동이 중요하지 않는 사회가 되면 , 완전 고용 중심, 노동이 권리이자 의무였던 세계가 노동없는 사회로 변화된다”고 말했다.

발제에 따르면 산업혁명과 기술의 발달결과, 일자리 많아지고 근무 환경과 삶의 질이 낳아졌지만 4차 산업혁명이 논의되는 지금은 다르다. 기술의 발달이 인간의 일자리를 개선하는 결과로 이어지지 않을 수 있다는 것이다.

인간 고유의 것으로 여겨졌던 서비스업에서도 인간을 대신할 수 있는 기계가 나오고 있다. 영국 연구기관은 인간 노동의 47% 기계 대체가능하다고 보고하기도 했다. 관련 연구들에서는 기술은 발전하지만 인간의 일자리는 줄어들고 소득도 감소하는게 2000년 이후 현실이라는 것을 보여주고 있다. 정 교수는”게다가 우리사회는 외국보다 인건비 절감에 필요한 기계를 빨리 도입하는 경향이 크다”고 강조했다.

AI 등 기술 발달에 잘못 대처하면 장기적 경기침체가 일어날 수 있는 환경이다.

정 교수는 이같은 문제에 대한 해법으로 기본소득제 논의가 필요하다고 강조했다. 이를 위해 기계세 등을 도입하는 논의가 필요하다. 토지, 노동, 자본 중 로봇은 비용 측면에서 자본에 해당하지만, 노동을 대체하는 것을 감안하면 로봇을 도입한 노동에도 세금을 부여해 실업과 일자리 창출에 활용하자는 논의다.

기술계급사회도 우려된다. 인공지능을 잘 하는 사람과 그렇지 않은 이들의 경제적 계급이 나뉘는 사회다. 현재도 글로벌 IT 업계는 인공지능 분야 인력 부족으로 거액의 연봉으로 인재 영입 경쟁을 벌이고 있다.

정교수는 “윤리규범은 사회적 구성물”이라며 “인공지능시대 시민들의 합의에 의한 새로운 윤리규범이 필요하다”고 강조했다.

“Data is new oil.”

4IR 시대 데이터를 활용한 수익을 기본소득 재원으로 활용하는 방안에 대한 아이디어도 제시했다. 정 교수는 “개인이 데이터 생산자로, 소유권을 갖는것이 블록체인 기술의 투명성, 익명성, 보안성, 불변성을 통해 가능하다”며 “온라인 데이터의 금전적 보상관련 합의해야 할 것이 많다. 누가 어떻게 이것을 판단할 것인가에 대한 논의가 필요하다”고 말했다.

이어 그는 세종시 일대에 시범 조성하는 스마트시티에서 데이터 자산 실험을 구상중이며, 데이터 기반 인공지능 분석으로 도시 거주민의 삶의 질을 높이는 방안도 고안하고 있다고 설명했다. 데이터 기반 도시운영으로 100만 이하 도시에서 문화공연, 등 다양한 실험이 가능하다. 새로운 데이터 거버넌스를 시도해야 하는 영역이다.

‘킬러 로봇’ 윤리적으로 허용될 수 있나’

두번째 발제는 도날드 아킨(Donald C. Arkin) 교수가 맡았다.

그는 킬러로봇의 윤리성 관련해 군사 애플리케이션 자동화 시스템의 ‘선제공격’이 가능한가에 대한 연구를 소개했다.

연구에따르면 군사로보틱스를 활용해 군사 작전에 투입하는 군인을 줄이고 임무수행 범위는 확대할 수 있다. 결과적으로 군인 사상자를 줄일 수 있다.

중요한 것은 전쟁 중에서 발생하는 민간인 사상자 문제다. 자율 살상 로봇의 작전중 발생하는 민간인 사상자에 대한 윤리적인 책임을 물을 수 있는가.

도널드 아킨 교수는 “무인로봇은 이미 전쟁에서 쓰이고 있고 세계 각국이 무인 로봇 개발에 경쟁적으로 뛰어들고 있다”며 “철학자에 윤리는 자유의지, 책임과 관련된다. 윤리적 측면에서 인공지능 로봇에 인간을 향해 발포, 사살하도록 명령할 수 있는지, 책임성을 지울 수 있는지가 문제”라고 말했다.

이같은 문제의식 속에 미국 국방성은 킬러 로봇 연구에 향후 5년간 모라토리엄기간을 갖기로했고, UNHRC 등도 킬러로봇의 연구개발을 금지, 제한관련한 논의를 해왔다.

AI 킬러로봇 치명적 자율성(lethal autonomy)…인간도 예외아니다

자율 살상무기 뿐만아니라 인간 군인의 교전수칙 준수 등 윤리적 결정에도 오류가 있다. 아킨 교수는 “이미 군인들은 전쟁에서 관련 지침 준수에 실패하고 있다”며 “45~60%의 군인은 작전중 발생한 민간인 사상에 대한 동료, 상관 보고의무를 어기고 있다”고 지적한다. 특정한 영역에서 프로그램된 킬러 로봇이 규정을 더 잘 준수할 수 있다는 말이다.

아킨 교수는 “최근 수행중인 연구는 로봇이 궁극적으로 군사상황에서 인간보다 국제인권규정(IHR) 등 윤리적 법적 의무을 더 잘 준수할 수 있다는 것을 다룬다”며 “목적은 로봇에 윤리적 규범, 코드를 부여하는 것이다. 윤리적 설계를 위해서는 윤리적 거버넌스를 통해 행동 통제 등 시스템을 어떻게 더 윤리적으로 만들것인가 관련 합리적 논의가 필요하다”고 말했다.

그럼에도 인간의 개입 없이 공격 목표만 설정해주면 자율적으로 임무를 수행하는 ‘자율 살상 무기(Lethal Autonomous Weapon System)’, 킬러로봇의 등장은 전쟁 양상 뿐만아니라 인간 사회에 전반에 파괴적 영향력을 미칠 수 있다.

미국, 중국 등 40여개국 킬러로봇 개발…일론 머스크, 무스타파 술레이먼 등 AI 전문가그룹 UN차원 대책 촉구

미국, 중국 등 40여개 국가가 ‘로봇 전쟁’시대에 대비한 킬러로봇 개발과 실전 활용을 서두르고 있다. 킬러 로봇은 테러리스트 은신처 드론 공격, 무인 정찰기, 스나이퍼나 폭발물 제거, 분쟁지역 경비 등 분야에서 제한적으로 쓰이고 있다. 이미 크루즈 미사일, 해군 무인함정, 드론 등은 전쟁에 활용중이다.

아킨 교수는 “킬러로봇의 유일한 사전 차단방법은 국제 협정과 금지”라고 강조했다.

한편, 이 같은 문제의식에 따라 전문가들도 국제 단체를 구성, 우려를 표명하고 UN 차원 행동을 촉구하고 있다. 2016년 100여명이던 이 단체는 올해 2000여명 규모로 확대됐다. 테슬라, 스페이스 X, 오픈 AI의 창립자인 일론 머스크와 구글 딥마인드의 응용 AI 창립자이자 대표인 무스타파 술레이먼 등 인공지능 및 로보틱스 전문가로 구성된 한 국제 단체는 2016년 UN에 공개 서한을 통해 자동화 무기(autonomous weapons) 사용을 금지해 줄 것을 요청하기도 했다.

이들은 서한에서“자동화 무기 개발로 이어질 수 있는 인공지능 및 로보틱스 분야의 테크놀로지를 개발 중인 기업으로, 이에 대한 문제의식을 제기할 책임감을 느끼고 있다”며  “자동화 무기가 개발되면 인간의 인지 범위를 벗어난 짧은 기간 내에 전례 없는 규모의 무력 분쟁이 발생할 수 있다. 이러한 무기는 테러의 수단으로 무고한 민간인의 학살에 이용될 수 있으며 해킹을 통해 바람직하지 않은 방식으로 기능하도록 조작될 수 있다”고 경고했다.

이에 2016년 12월, UN 재래식 무기 협약 재검토 회의의 123개 회원국은 자동화 무기에 대한 공식 논의키로 했다.

이들의 공개 서한에 앞서 2015년에는 노엄 촘스키, 스티븐 호킹과 애플 공동 창립자 스티브 워즈니악이 AI 전쟁 무기 개발을 우려하는 공개 서한을 UN에 보냈다.