“(AI가)사회에서 중심 동력이 되어 감에 따라 인공지능 분야는 사람과 효과적으로 협력할 수 있는 지능 시스템을 구축하는 방향으로 이동하고 있다…AI 성공의 척도는 사람들이 AI 시스템을 이해하고 사용에 참여하며 신뢰를 구축 할 수 있도록 설계하는 것이다.” – AI100 보고서

2014년 12월, ‘스텐포드 100년 연구(Stanford One Hundred Year Study)’가 시작됐다. 연구는 인공 지능(AI) 분야가 사람들, 공동체와 사회에 미치는 영향에 대한 세기 단위 장기 평가다.

‘AI100’로 지칭되는 이 프로젝트는 인문, 사회과학 분야 학자들과 인공지능 과학자들로 상임위원회를 구성, 2016년 9월 첫 보고서를 발간했다. 연구진은 최근 미국 CACM(Communications of the ACM)에 첫 보고서 발표 후 2년여 간의 결정사항, 프로세스, 주요 결론 등을 소개했다.

특히 AI가 일자리를 대체 할 것이라는 우려에는 AI가 일자리를 제거하는 것보다 기존 작업 형태를 바꿀 가능성이 더 높다고 예측했다.

‘2030년 AI 지능과 삶’ 첫 보고서

‘2030년 AI 지능과 삶(AI Intelligence and Life in 2030)’으로 불리는 첫 AI100 보고서는 인공 지능 기술이 이미 도시생활에 영향을 미치기 시작한 8가지 분야 인간 활동 영역을 조사했다. 범위에는 AI기술이 적용된 신제품이 있는 도메인을 포함한 잠재적 AI 시스템 도입에서 발생하는 기술적 영향에 대한 우려를 제기한다. 이 보고서를 작성한 연구원과 AI100 상임위원회(AI100 프로젝트를 지휘하는 기관)는 AI100 프로젝트가 촉매 역할을 수행, AI라는 잠재적으로 강력한 기술을 사회가 틀 잡아가고 공유할 수 있는 방법에 대한 대화가 열리길 원했다.

이 보고서는 관련 연구와 산업계와 정부 의사 결정에 도움을 주는 것 외에도, AI의 현재 상태와 그 가능성을 과학적이고 기술적으로 정확하게 묘사해 일반 대중에게 제공하는 것을 목표로 했다. 보고서는 현실의 인공지능 연구와 ‘특수 인공지능 기술’ 에 초점을 두고 있다. 일반적으로 언론에 언급 된 현실화 되기에 먼 미래의 일반 지능(General Intelligence)에 대한 것이 아니다.

일상 활동에서 점차 보편화되는 AI 기반 시스템은 전세계 사람들의 일상 생활을 향상시키고 전세계 경제에 긍정적 영향을 미칠 수 있는 큰 잠재력을 가지고 있다. 반면 사회 및 윤리적인 문제를 심화시킬 것으로 예상된다. 따라서 AI 기술에 대한 광범위한 전문 지식과 윤리적 및 정책적 문제에 대한 심의가 AI의 이점을 광범위하게 공유, 안전하고 신뢰할 수 있는 시스템을 만드는데 기여한다.

10년전 美 부시-오바마 AAAI 대통령 패널에서 기원

AI100 연구 추진은 2008-2009 년 장기 AI 미래에 대한 ‘인공지능 진전을 위한 협회(Association for the Advancement of Artificial Intelligence, AAAI)’ 대통령 패널의 긍정적 답변에서 기인한다. 당시AAAI회장 호로비츠( Eric Horvitz, Microsoft Research)와 공동 의장 바트 셀먼(Bart Selman, 코넬대)은 AI 현황의 내부적 논의를 위해 패널에 “AI 발전의 잠재적인 장기적 사회적 영향”에 대한 검토를 위임했다. 특히, AI 성공과 기회, 그것이 야기하는 도전을 검토하도록 요청했다. 세부적으로는 AI 기술에 의해 제기되는 사회 경제적, 윤리적, 법적 문제; 장기적인 사회적 영향을 개선하기 위해 취할 수 있는 사전 대책 단계; 자동화 시스템에 필요한 정책 및 지침의 종류 등이다.

패널(http://www.aaai.org/Organization/presidential-panel.php)활동 결과가 AI의 진보가 사람과 사회에 미치는 영향에 대한 장기 연구 ‘AI100’의 출범 계기다. 이는 기계 지능 개발에 따른 잠재적 혼란, 발전, 트렌드, 미래에 대해 장기간 연구하고 선제적인 영향 평가, 제안, 안내를 위한 것이다. 새 프로젝트는 내부(AI 분야 내)와 외부(다른 분야 및 사회 전반)에서 균형을 유지해야 했다. 이 장기간 프로젝트는 AI 기술의 현황과 사회에 미치는 영향을 평가하기 위한 연구 패널을 주기적으로(일반적으로 매 5 년마다) 구성한다.

첫 번째 단계…패널 구성 

AI100 프로젝트가 시작된 2014 년 12 월 상임위원회는 프로젝트를 구성하고 인공지능 분야는 물론 사회 과학 및 인문학 전문가 참여를 도모했다. AI 연구에는 수년이 걸릴 것으로 예상했으나 몇 달 만에 AI가 일상 생활에 도입되며 대중의 관심이 고조되기 시작했다. 상임위원회는 오스틴(Austin) 텍사스대( University of Texas) 피터 스톤(Peter Stone)을 보고서 패널 위원장으로 영입했다. 이와 함께 학계, 연구소 및 산업계의 AI 전문가, 법률, 정치, 과학, 정책 및 경제 분야의 AI 전문 지식을 갖춘 17명의 연구원을 모집했다. 그들의 목표는 전문 분야별, 지역, 성별, 경력 등에서 다양한 패널을 확보하는 것이었지만 한계가 있었다. 이러한 단점을 인식하고 향후 연구의 설계에서는 사회 과학 및 인문학 분야에서 더 많은 패널을 포함하도록 하는 포괄적 계획 및 보고 프로세스를 개발했다.

상임위원회는 AI100 보고서 취지에 맞는 다양한 연구 주제와 범위를 검토했다. 하위 분야 연구 및 응용 프로그램에 대한 일반적인 설문 조사에서 기계 학습 및 자연어 처리에 대한 심층적 조사, 응용 분야(의료, 운송 등)까지 포괄했다.

2030년 도시의 삶에서 인공 지능과 생명에 중점을 둔 것은 인류 역사 속 개인과 공동체의 삶에서 도시가 수행한 중심 역할을 고려했다.

북미 도시에 대한 더 많은 초점을 둔 것은 패널의 작업이 허용한 짧은 시간 내에 전세계의 도시 환경과 문화의 큰 변동성을 적절하게 고려할 수 없다는 인식에서다. 상임위원회는 이 연구에서 비롯된 예측, 평가 및 사전 예방적 지침이 보다 광범위하고 포괄적 관련성을 가지기를 기대한다. 향후 연구는 국제적 참여를 지향한다.

상임위원회가 연구 패널에게 부여한 책임은 향후 15년간 AI의 발전 가능성과 도시 환경에서의 일상 생활에 미칠 잠재적 영향을 파악해 과학적, 공학적 및 정책을 명시하는 것이다. 또 이를 실현하기 위한 법적, 사회적, 윤리적, 정책적 설계 및 심의 등 이다.

“공상 과학 소설과 영화에 뿌리를 둔 개념을 현실적인 기반으로 대체하고자 합니다.”

첫 보고서

2016 년 2 월 AAAI회의에서 여러 보고서 섹션을 초안했다. 2017 년 7 월 인공지능 국제회의에서 연구 패널은 보고서의 주요 메시지를 최종 확인했다.

보고서는 일반 대중에서 인공 지능 연구원 및 실무자에 이르기까지 다양한 이들을 대상으로 접근 가능하고 깊이를 제공하는 것을 목표로 했다.  보고서는 세 부분으로 된 계층 구조를 가지고 있다. 요약 보고서는 보고서의 핵심을 요약한다. 5 페이지 개요에 이어 세부 정보가 담기는 핵심 영역에서 교통, 주택 및 서비스 로봇, 의료, 교육, 공공 안전 및 보안, 저 자원 커뮤니티, 고용 및 직장, 엔터테인먼트 등 AI가 영향을 미칠 수 있는 전형적인 8가지 영역을 조사한다.

연구 패널이 조사한 각 도메인에 대해 보고서는 2000년 이후 AI 적용과 발전 사항을 요약하고 2030년까지 프로젝트를 진행한다. 이 보고서는 음성 및 지리 공간 데이터를 비롯한 대용량 데이터의 가용성을 식별한다. 클라우드 컴퓨팅 리소스 및 센싱 및 인식을 위한 하드웨어 기술의 발전은 AI 연구의 진전과 AI시스템 확대에 기여했다. ‘심화(Deep)’ 인공 신경망(artificial neural nets)의 개발뿐만 아니라 기계 학습(machine learning)의 발전은 이러한 업적을 실현하는 데 핵심적인 역할을 수행했다.

AI가 이들 도메인의 일상 생활에 들어가기까지의 시간 지평은 각 영역에서 제기되는 문제점을 변화시킬 수 있는 기회에 따라 다르다. 또한 이렇게 식별된 문제는 하드웨어에서 인간 – 컴퓨터 상호 작용에 이르기까지 전 범위의 컴퓨터 과학 전반에 걸친 것으로 나타났다.

안전하고 신뢰할 수 있는 하드웨어는 운송 및 가정용 로봇의 발전에 필수적이라고 판단됐다. 자율주행은 오늘날 가장 눈에 띄는 AI 응용 프로그램 중 하나다. 개인 운전 행태를 변화시키는 것 외에도 교통 인프라, 도시 조직 및 일자리에 영향을 미칠 것으로 예상된다. 가정용 로봇의 경험은 하드웨어의 핵심 역할을 보여준다. 로봇 청소기는 수년간 가정에서 사용되어 왔지만, 기술적 인 제약과 신뢰할 수 있는 기계 장치의 높은 비용으로 인해 좁게 정의된 응용 프로그램에 상업적 기회가 제한됐다. AI 기술의 신뢰 개발 도전은 공공의 안전과 보안에서도 요구된다.

의료 분야에서는 데이터 공유, 정책, 규제 및 상업적 장애물 제거, 의료 제공자, 환자 및 환자 가족과 자연스럽게 작동하는 시스템의 기능 향상을 위한 메커니즘 개발이 포함된다. 이 보고서는 또한 인간-AI 상호작용을 기반으로 효과적인 파트너십을 통해 AI 기술이 교육 향상에 기여할 수 있다는 것을 제시한다.

“AI 성공의 척도는 사람들이 AI 시스템을 이해하고 사용에 참여하며 신뢰를 구축 할 수 있도록 설계되어야 합니다.”

고용 및 일자리 영역에서 AI 시스템이 일부 일자리에서 사람들을 대체 할 것이라는 문제 제기에 보고서는 AI 기능이 일자리를 제거하는 것보다 업무를 대체함으로써 일자리를 바꿀 가능성이 더 높다고 예측한다. AI 기술에 대응해 업무가 진화함에 따라 발생할 수 있는 다양한 사회적 도전에 대해 사회적 및 정치적 결정의 역할을 강조하고 이러한 문제를 즉시 해결해야 한다고 주장한다.

AI 연구 및 응용 프로그램의 주요 영역은 이렇다. 기계 학습 영역에서는 빅 데이터 세트, 심층 학습 및 강화 학습을 사용해 작업을 확장해가고 있다. 이미 다양한 응용 프로그램에 통합된 로보틱스, 컴퓨터 비전 및 자연어 처리(음성 언어 시스템 포함)는 최근에 큰 진보를 이루고 있다.

상대적으로 새로운 두 분야의 연구인 협업 시스템과 크라우드 소싱은 AI 시스템이 사람들과 효과적으로 협력하는 방법을 개발하고 있다. 이 보고서 하이라이트는 알고리즘 게임 이론과 계산적 사회 선택(computational social choice), 사물인터넷(Internet of Things), 신경 과학(neuromorphic computing)분야다.

이 보고서는 AI 기술과 관련된 규제 법규 현황을 요약하고 정책 권고 사항을 포함하는 정책 및 법적 문제에 관한 섹션으로 마무리된다.

보고서는 AI 기술, 프로그램 목표 및 전반적인 사회 가치에 대한 전문 평가를 위해 정책당국의 AI에 대한 포괄적이고 깊은 이해가 필요하다고 권고한다. 업계는 모범 사례를 공식화하고 공유해야 한다. AI 시스템은 공정성, 보안성, 사생활 보호 등 사회적으로 중요한 문제와 관련해 공정하고 적절히 평가할 수 있도록 리버스 엔지니어링에 개방적이어야 한다. 정부, 학계, 언론 등 다양한 영역에 대한 전문성을 활용, 인공 지능의 사회적 영향에 대한 학제 간 연구를 위한 공공 및 민간 자금 지원의 필요성을 강조한다.