“AI가 시뮬레이션 등 은밀한 방법으로 새로운 무기, 전략, 전술을 개발하면 불가능하지는 않더라도 통제가 어려워진다…사이버 세계의 불투명성(속도)은 현재의 계획 모델을 압도할 수도 있다.”

헨리키신저(Henry A. Kissinger), 에릭 슈미트(Eric schmidt), 다니엘 헌텔로처(Daniel Huntellocher)가 국제정치 분야 미국 시사주간지 아틀란틱(The Atlantic) 공동기고(‘The Metamorphosis‘)에서 인공지능(AI)의 위험성을 강조했다.

세 기고자들은 핵(nuclear)과 대비해 AI는 불투명성으로 인한 더 통제의 어려움을 지적했다. 헨리키신저는 리처드 닉슨 대통령과 제럴드 포드 대통령의 국가안보보좌관과 국무장관을 역임했다. 에릭 슈미트는 알파벳의 전 CEO이자 회장이다. 다니엘 헌텔로처는 MIT Schwarzman Computing College의 현 학장이다.

키신저와 공동 기고자들(이하 키신저)은 “핵 시대에 전략은 억제라는 개념을 중심으로 발전했다. 억제는 당사자들의 합리성에 근거한다”며 “핵 및 기타 군사 배치로 안정성이 보장될 수 있다는 전제는 자멸을 초래하는 의도적인 행위에 의해서만 무력화될 수 있다. 보복의 가능성은 공격을 억제한다”고 말했다.

이어 키신저는 “AI가 국가 안보에 중요한 역할을 하는 세상에는 이런 전략적인 진실의 어느 것도 적용될 수 없다. AI가 시뮬레이션 등 은밀한 방법으로 새로운 무기, 전략, 전술을 개발하면 불가능하지는 않더라도 통제가 어려워진다…사이버 세계의 불투명성(그리고 속도)은 현재의 계획 모델을 압도할 수도 있다”고 설명했다.

이들은 AI 불투명성에 대해 정책 입안자들이 적들과 심지어 동맹국의 의도과 능력을 어떻게 평가하고 이해할 것인지 의문했다. 또 AI 유비쿼터스화 시대에는 인터넷 거버넌스 문제도 대두된다. 보안을 유지하기 위해서는 네트워크 연결 차단 등이 필요하다고 강조, AI 무기화로 인한 절대 불안정성, 불투명성을 우려했다.

“부당한 행동을 정의하고 부당한 행동의 위험과 개인의 자유에 대한 제한의 균형을 맞추는 것은 AI 시대의 중요한 과제가 될 것이다.”

키신저는 또한 구글홈과 아마존의 알렉사 등 이미 수백만 가정에 설치된 AI 음성 보조기기들이 언어의 장애와 많은 문화 억제를 제거할 수 있다며 통제가 필요함을 지적했다.

그는 “이 같은 기술은 정보의 확산을 제한하거나 형성하는 전례 없는 능력을 만들어내기도 한다. 수천만 내지 수억의 행동과 움직임을 감시하는 정부의 기술적 능력도 마찬가지로 전례가 없는 일”이라며 “부당한 행동을 정의하고 부당한 행동의 위험과 개인의 자유에 대한 제한의 균형을 맞추는 것은 AI 시대의 중요한 과제가 될 것”이라고 말했다.

AI의 미래에 대해 키신저는 AI가 건강, 안전, 장수 등 활력 있는 분야에 근본적인 긍정적 기여를 인정하면서도 검증되지 않은 뉴스와 비디오를 통한 신뢰 감소, 테러 활용 가능성, AI 조작으로 인한 약화된 민주주의 시스템, 자동화로 인한 인간 노동 기회 감소를 문제로 지적했다.

AI 유비쿼터스화 이후 규제, 감시, 교육 등 전반의 변화에 대해 역사학자인 키신저는 중세 신 중심 세계관에서 이성 중심 근대로의 이행을 소개하며 설명했다. 그는 “이 새로운 기술의 도전을 기존 문화의 가치와 관행에 흡수한 전례가 없다…정신 노동에서 인간을 돕거나 혹은 어쩌면 능가할 수도 있는 기계의 현상은 인간의 역사에서 독특하다. 계몽주의 철학자 임마누엘 칸트는 인간의 정신 구조가 관찰된 현실에 미치는 영향에 대한 진리를 기술했다. AI의 진리는 더 우발적이고 모호하다. 그것은 데이터를 얻고 분석함에 따라 스스로를 수정한다”고 설명했다.

또 인간중심 진리와 현실에 대한 이해에 도전하는 AI의 필연적인 진화에 대해 대비가 필요함을 강조했다. 윤리성, 합리성, 무해성 등 다양한 상황에서 AI가 인간의 가치를 부정확하게 모방할 때 감사 및 정정하고, AI 책임성을 위한 AI 윤리를 확립하는 것이 그 핵심이다.

AI 확산에 대해 키신저 등 세 기고자들은 각자의 입장이 다르지만 “그것이 인간의 지식, 지각, 현실을 변화시키고 있으며, 그렇게 함으로써 인류 역사의 흐름을 변화시키고 있다는 것에 동의한다”며 “(AI와) 그 결과를 이해하고, 다른 분야에서도 이 같은 작업을 하도록 격려한다”고 말했다.