[AI윤리④] MS ‘Future Now’토론세션, 이수영 KAIST 인공지능연구소장 “AI, 사람 만큼만 위험”
| | | |

[AI윤리④] MS ‘Future Now’토론세션, 이수영 KAIST 인공지능연구소장 “AI, 사람 만큼만 위험”

“AI위험성에 대해 염려하는 분들이 많은데 AI는 사람 만큼만 위험합니다. 아이를 가르치듯이 AI를 가르쳐야 하는 부분입니다.” – 이수영 KAIST 인공지능연구소장

7일 서울 서대문구 홍제동 그랜드힐튼호텔에서 열린 ‘퓨처나우 2018’에서는 사람을 위한 AI, 투명성, 프라이버시, 보안, 윤리성과 디지털 평등성에 대해 논의했다.

‘혁신과 책임의 조화. AI윤리를 말하다’

이날 행사에서는 AI윤리 관련 별도의 토론 세션이 마련됐다. 학계와 정부부처 등 전문가들이 참여한 ‘혁신과 책임의 조화. AI윤리를 말하다’를 주제로 한 패널토의는 박선정 한국마이크로소프트 법무정책협력부문 변호사가 사회를 맡았다. 이수영 KAIST 교수(카이스트 인공지능연구소장), 이상용 충남대 법학전문대학원 교수(한국인공지능법학회장),권용현 과학기술정보통신부 국장(지능정보사회추진단 부단장), 크레이그 샹크(Craig Shank) 마이크로소프트 글로벌정책그룹 부사장이 패널로 참석했다.

이하 현장 토의 내용.

사회자
AI 윤리서 공정성이 가장 중요하다. MIT연구결과 흑인 여성을 잘 구별하지 못했다.

이수영 교수
32년간 딥러닝에 기초한 연구를 해왔지만 AI 윤리연구, AI 공정성 문제에 관심을 가지게 된것은 1~2년 밖에 안됐다. 이전까지는 윤리를 생각할 수준이 아니었다. 현재 AI 는 데이터 학습을 활용하는데 불공정성은 데이터에서 기반한다. 현재 학습법칙을 수정해 형평성 문제 해결을 시도하고 있다.

이상용 교수
책임은 거래 당사자에 문제가 되지만 개발에 참여한 개발자에 책임을 물을 수도 있다. 이에 법전문가들은 알고리즘 투명성에 주목하고 있다.

크레이그 부사장
사회과학, 컴퓨터과학 등 분야에서 접근이 필요하다. 디자이너와 개발자들이 데이터 질의 편견, 바이어스 문제를 해결하려 하고 있다. 산티야(MS CEO)는 ‘편견 배재는 디버깅 문제’라고 보고있다.

사회자
결국 AI윤리에 대한 원칙을 정하는 문제다. 어떻게 원칙을 정하는가.

크레이그 부사장
원칙을 정하기위해 다양한 재단, 기관에 자문을 구한다. 기술구현, 개발과정을 검토하기도 한다. 이들이 가이드를 주고, 자체적으로 원칙을 정하고 있다. 안정성 신뢰성 그룹이 있어, 개발과정에 대한 논의를 해오고 있다”고 설명했다.

“인공지능이 현재 도우미로 작동하지만 동반자로도 성장하게 될 것…AI윤리도 사람에게 적용하는 윤리의식에 접근할 것이다.”

사회자
카이스트 지난 4월 윤리현장 만들었다고 들었다.

이수영 교수

카이스트 인공지능연구소에서도 윤리헌장을 만들었다. AI가 단순 기계라면 윤리르 논의할 필요가 없지만, 현재 인간의 능력을 따가가고 있다. 1년사이 변화 속도가 급격하다. AI가 다른 엔티티로 성장한다. 인간과 상호작용에서 어떻게 작용해야 하는가 문제가 있다. 인공지능이 현재 도우미로 작동하지만 동반자로도 성장하게 될 것이다. AI윤리도 사람에게 적용하는 윤리의식에 접근할 것이다. 사람에게 해가 되어서는 안되고, 인간을 도와아햐며, 묵시적으로 위임받은 사항 까지는 수행해야 하고, 그 과정에서 사람이 명시적으로 명령하면 이를 따라야 한다고 생각했다.

사회자
정부의 AI윤리 원칙 제정 논의는.

권용현 국장

정부사업 규모는 300조가 넘어간다. 시스템이 작동하는데 여기에 AI활용을 시도하고 있다. 지난해부터 AI데이터를 어느정도까지 규율해야 할지 검토해왔다. 킬스위치 문제등… 나머지는 민간과 가이드라인을 만들어 검토하고 있다. AI는 적용을 통해 무엇이 문제인지 알수 있는데 기술이 빠르게 변한다. 공급자, 이용자, 개발자 3주체로 구분해, 투명성, 통제성, 공공성, 책임성 등 원칙을 만들었다.

사회자
1984 조지오웰 소설에서 보듯 사회통제 시스템에 대한 공포가 있다.

크레이그
다른 생각이 있다. 우리 포커스를 터미네이터 등에 두는것은 바른 접근이 아니다. 인명구조 등에 얼굴인식 기술 등 AI를 활용할 수 있다. 독재정권 등에서는 같은 기술이 국가 반체제인사 구분 등에도 악용할 수 있다.

사회자
윤리만으로 제기되는 사회적 이슈를 해결할 수는 없다. 정부 입장에서 혁신촉진과 함게 기술 오용을 막기위한 중재가 필요해 보인다.

권 국장
AI가 좋은 성과를 낼 수 있지만, 악용, 일자리, 차별 등 문제가 있다. 정부에서도 위원회를 만들어 관련 이슈를 논의하고 있다. 올해부터 공론화를 통해 국민들과도 논의 할 계획이다. 사회 전체적인 인식이 중요하다. 윤리 가이드라인을 만들어 어젠다별 공감대를 만들어 갈 것이다.

이상용 교수
AI 기술과 산업적응용이 발전과정에 있고 그영향을 예측하기 어렵다. 기존의 제도를 창의적으로 활용하면서 지켜보는게 좋다. 섣부른 입법은 부작용을 일으킬수 있다.

“모든 AI가 똑같아서는 안된다. 자율자동차도 탑승자에 따라 다른 작동을 해야 할 것이다. 사용자 특성에 맞는 시스템 개발이 필요하다.”

사회자

트러스티드 AI 혁신과 조화가 중요하다.

권 국장

정부는 스마트시티 등 프로젝트를 추진한다. 예전 유시티와는 달리 데이터를 통해 AI시스템을 구축하는 문제가 있다. 시스템 개발과 윤용에 있어서 정보활용 수준을 정해야 하는 입장이다. 수용과 규제관련 공론화를 진행할 계획이다.

이수영 교수

소규모 데이터롤 시범적용을 하고 향후 일반화하는 점근에 동의한다. 산업화 기술구현이 빨라지고 있다, 규제로 인해 기술혁신을 막아선 알될 것. 미리 준비가 필요한 부분이다. 사용자 개개인에게 선택권을 줘야 한다. 모든 AI가 똑같아서는 안된다. 자율자동차도 탑승자에 따라 다른 작동을 해야 할 것이다. 사용자 특성에 맞는 시스템 개발이 필요하다.

AI위험성에 대해 염려하는 분들이 많은데 AI는 사람만큼만 위험하다. 아이를 가르치듯이 AI를 가르쳐야 하는 부분이다. 형평성 문제는 형평성 대로, 딜레마는 딜레마대로 다루는게 필요하다. AI는 학습 베이스로 효용과 리스크를 판단한다. 사람마다 적용을 달리해야 하듯 AI를 동료처럼 생각하는 사회적 패러다임 시프트가 필요하다.

이상훈 교슈

정책수립과 입법에서 투명성과 효율성의 조화가 필요하다. 그동안에는 이 부분이 부족했다. 투명성은 민주주의 원리과 부합한다. 국회에서 이해관계자의 참여를 이끌어내고 제도적 절차를 보장해야 한다, 공론화 절차 제도화가 필요하다. 효율성은 개인의 자유와 창의에서 비롯된다, 인텐디브 디자인 설계자 중요하다. 패널티 위주에서 인센티브 설계로 변화가 필요하다. 현재 시스템에서는 창의적인 일을 할 수 없다. 가치 상충문제를 고민해야 하는 부분도 있다.

크레이그

경제, 국가 디지털 트렌스포메이션과정에서 기술을 어떻게 받아들이고 무엇을 어떻게 키워갈 것인지 논의를 해야 할것이다. 책임있는 기술 신뢰할 수있는 AI를 만드는게 중요하다.

7일 서울 서대문구 홍제동 그랜드힐튼호텔에서 사티야 나델라 마이크로소프트 CEO가 키노트를 하고 있다.

MS CEO, “윤리적 AI는 디자인 설계의 문제”

한편, 이날 행사에서 사티야 나델라 마이크로소프트 CEO는 키노트를 통해 투명성, 프라이버시, 보안, 윤리적 AI, 디지털 평등성에 대해 강조했다.

그는 “윤리적 AI는 디자인 설계의 문제”라며 “AI를 가이드하는 원칙을 세우고 바이어스를 제거하기 위해 개발자들과 디자이너들이 노력을 기울이고 있다”고 설명했다.

이어 나델라는 “디지털 경제가 대부분의 사람들에게 혜택이 돌아가야 하고 사회 모든 부분에서 긍정적인 효과를 발휘하도록 하는게 중요하다”며 뇌파를 통해 로봇을 제어하는 연구가 수행되고 있지만 아직 시장은 형성되지 않았다. 하지만 장애인 등에게는 필요한 기술이다. 연구가 계속되야할 부분”이라고 말했다.

*관련 기사

 [AI윤리①]美 브루킹스硏, 인공지능 윤리적 딜레마 논의…구글, MS, IBM, OpenAI 등 파트너십

[AI윤리②]브루킹스硏, ‘국방AI’ 극비 개발 “위협”…얼굴인식, 치안-프라이버시 “딜레마”

 [AI윤리③] 인공지능 부작용,  편견·불투명성·무책임 등에 대처하는 6가지 방법

 

 

 

사이언스모니터 뉴스레터
AI·양자·R&D 핵심 해설을 주 2회(화·금) 이메일로 받아 보세요.

Similar Posts