‘Future of Life Institute’ 유발 하라리-맥스 테그마크 대담

“오늘날 우리가 직면하고 있는 질문은 완전히 다르다고 생각한다. 우리가 수천 년 동안 해온 일들이 실제로 이 같은(의식없는 AI 초지능) 도전에 준비되지 못했다는 점에서 철학적 파산에 직면하고 있다고 생각한다.”-유발 노아 하라리(Yuval Noah Harari)

“혼란스러운 것은 인간이 이런 자기주장(self-serving)을 해왔다는 점이다. 노예에 대해…그들은 느끼지 않으며, 영혼이 없고, 고통받지 않는다거나, 여자에게 영혼이 없거나, 동물이 고통을 겪을 수 없다는 주장이다. 우리는 기계가 너무 편리해서 기계에 같은 실수를 저지르는 것이 매우 불안하다. 사실 미래 초지능 기계는 경험을 갖지 못하겠지만 가질 수도 있다. 우리는 과학이 그 질문에 대답할 수 있는 도덕적 명령이 있다고 생각한다. 그렇지 않으면 우리는 심지어 우리가 모르는 엄청난 양의 고통을 야기할 수 있기 때문이다.”-맥스 테그마크(Max Tegmark)

‘호모 사피엔스’의 저자 유발 노아 하라리(Yuval Noah Harari)와 라이프3.0(Life 3.0) 저자 맥스 테그마크(Max Tegmark)는 둘 다 과학, 기술, 사회 및 인류의 미래에 관한 21 세기 담론의 최전선에서 전위적인 사상가들이다.

두 저자는 2019년 12월 31일 퓨처 오브 라이프 연구소(Future of Life Institute)에서 인류와 초지능, 인류 미래와 가능성을 논의했다.

둘의 대화는 물리, 인공지능(AI), 역사, 철학 등 인류가 직면한 문제들을 포괄했다. 우주론과 인류사적 관점에서 의식, 윤리, 이타주의, AI, 인간 멸종, 신 기술 및 사회적 협력, 신화와 이야기 등이 논의됐다.

대화에서 논의된 주제는 의식-윤리와 초지능(super intelligence) , 동물의 고통과 인간의 실존, 신화와 이야기의 기능, 새로운 과학기술과 도전 받는 글로벌 패러다임, 기술적 위험성 등이다.

테그마크와 하라리는 의식-윤리와 초지능, 고통과 인간 실존 논의에서 인류가 임박한 도전에 제대로 준비하고 있지 못하다고 지적했다. 둘은 인공지능과 인공 의식을 구분의 필요성, 초지능과 인간 실존에서 의식, 고통의 문제 등에 새로운 접근이 필요하다고 강조했다.

이하 관련 대담 일부.

맥스 테그마크(Max Tegmark) : 도덕이 경험, 주관적 경험에 기초해야 한다고 생각하는 책을 읽는 것이 좋다. 그것은 바로 의식이라고 부르는 것이다.

유발 노아 하라리(Yuval Noah Harari) : 의식이 없고 주관적인 경험이 없는 도덕은 없다고 생각한다. AI 잠재적 부상에 대해 생각한다면 AI는 초지능이 될 것이지만 완전히 무의식적이라는 것이다. 이것은 우리가 전에는 다루지 않았던 것이다. 세상에 더 큰 지능이 있을 때 일어나는 일에 대한 철학적이고 신학적 토론이 많이 있다. 우리는 물론 토론의 대상으로 하나님과 함께 수천 년 동안 이것을 논의해 왔다. 항상 더 큰 지능은 A) 어떤 의미에서 의식적이며 B) 좋고 무한히 좋을 것이라고 가정했다. 따라서 오늘날 우리가 직면하고 있는 질문은 완전히 다르다고 생각한다. 우리가 수천 년 동안 해온 일들이 실제로 이 같은 도전에 준비되지 못했다는 점에서 철학적 파산에 직면하고 있다고 생각한다.”

Max Tegmark : 우리가 매우 시급한 도전을 하고 있음에 동의한다. 과학자로서 우리는 실제로 어떤 종류의 정보처리가 의식적인 것인지 아닌지를 확실하게 알지 못한다는 사실에 난처한 추가 위험이 있다고 생각한다.

예를 들어, 랍스터를 뜨거운 물에 끓여서 먹기 전에 살아있는 것이 좋다고 들었다…그러나 최근 연구에 따르면 실제로 랍스터는 고통을 느끼며 스위스에서는 살아있는 랍스터를 삶는 것을 금지했다.

혼란스러운 것은 인간이 이런 자기주장을 해왔다는 점이다. 노예에 대해…그들은 느끼지 않으며, 영혼이 없고, 고통받지 않는다거나, 여자에게 영혼이 없거나, 동물이 고통을 겪을 수 없다는 주장이다. 우리는 기계가 너무 편리해서 기계에 같은 실수를 저지르는 것이 매우 불안하다. 사실 미래 초지능 기계는 경험을 갖지 못하겠지만 가질 수도 있다. 우리는 과학이 그 질문에 대답할 수 있는 도덕적 명령이 있다고 생각한다. 그렇지 않으면 우리는 심지어 우리가 모르는 엄청난 양의 고통을 야기할 수 있기 때문이다.

유발 노아 하라리 : 이런 이유로 그리고 여러 이유로, 나는 지능을 연구하고 개발할 때처럼 의식을 연구하는데 많은 시간과 에너지를 투자해야 한다고 생각한다. 우리가 의식을 실제로 이해하기 전에 정교한 인공지능을 개발한다면, 우리는 해결 방법을 모르는 큰 윤리적 문제가 많이 있다. 그 중 하나는 이러한 AI시스템에서 어떤 종류의 의식이 존재할 가능성이 있다는 것이며, 그 외에 다른 많은 문제들이 있다.

Max Tegmark : 인공 지능과 인공 의식을 구분해야 한다고 생각하기 때문에 실제로 이런 말을 듣게 돼 기쁘다. 어떤 사람들은 이 둘을 동일하다고 당연시 한다.

유발 노아 하라리 : 지난 2 ~ 3 년 동안 이러한 문제에 대해 상당히 많은 토론을 하고 있으며, 많은 훌륭한 사람들이 지능과 의식의 차이를 이해하지 못하고 토론에서 나타날 때 반복해서 놀랐다. 동물에 관한 것이지만 컴퓨터와 AI에 관한 토론에서도 등장한다. 인간과 다른 포유류와 다른 동물, 의식과 지능에서 실제로 함께 진행되기 때문에 혼란을 어느 정도 이해할 수 있지만, 이것이 자연의 법칙이고 항상 그렇게 한다고 가정할 수는 없다. 아주 간단한 방법으로 지능은 문제를 해결하는 능력이라고 한다. 의식은 고통과 즐거움, 사랑과 증오와 같은 것들을 느낄 수 있는 능력이다…적어도 오늘날, 일부 사람들은 컴퓨터가 의식적이며 여전히 우리보다 훨씬 더 나은 특정 유형의 문제를 해결할 수 있다고 주장할 것이다.

그들은 의식을 갖지 않고 특정 분야에서 높은 지능을 가지고 있으며 아마도 의식을 발달시키지 않고 초지능에 도달할 것이다. 그리고 우리는 이러한 의식과 초지능에 대한 아이디어를 충분히 알지 못하지만 최소한 인간보다 모든 문제를 더 잘 해결할 수 있고 의식은 전혀 없는 것이 가능하다. 당신은 다른 방식으로 그것을 할 뿐이다. 비행기가 깃털을 개발하지 않고 새보다 훨씬 빠르게 비행하는 것처럼.

맥스 테그마크 : 맞다. 이것이 사람들이 혼란스러워하는 이유 중 하나다. 매우 똑똑한 사람들조차도 왜 이것에 대해 완전히 혼란스러워했는지 두 가지 다른 이유가 있다. 하나는 많은 다른의 의식 정의가 있다는 것이다. 어떤 사람들은 거의 동등한 지능으로 의식을 정의하지만, 자신이 했던 방식으로 정의하면 단순히 주관적인 경험을 가진 것들을 느낄 수 있는 능력이 있다.

나는 많은 사람들이 항상 주관적인 경험과 그 문제에 대한 지능을 신비한 것으로 생각했기 때문에 혼란스러워한다고 생각한다. 그것은 우리와 같은 생물학적 유기체에만 존재할 수 있다. 우리가 과학에서 지난 세기의 진보를 통해 실제로 배우고 있다고 생각하는 것은 정보 처리에 관한 것이지 지능과 의식이 아니라는 것이다.

사람들은 이러한 특성을 가질 수 있는 것은 탄소나 고기덩어리(meat)일 뿐 이라는 이 탄소쇼비니즘 아이디어에 몰두한다. 실제로 정보가 뇌의 탄소 원자와 뉴런 또는 컴퓨터의 실리콘 원자에 의해 처리되는지는 중요하지 않다.