AI 의식 근거, 생물학 넘어 뇌 기능으로

‘인공지능 의식’ 논쟁, AI가 주관적 경험, 고통을 느낄 수 있을까

인공지능이 인간과 자연스럽게 대화하고 복잡한 문제를 해결하면서 오래된 질문이 다시 과학의 영역으로 들어오고 있다. 기계도 고통이나 쾌락을 경험할 수 있는가. 인간처럼 세계를 주관적으로 경험하는 ‘내면’을 가질 수 있는가.

과거에는 공상과학의 소재에 가까웠지만, 생성형 AI의 능력이 빠르게 발전하면서 이 문제는 의식의 기원을 연구하는 신경과학과 인지과학의 핵심 질문 가운데 하나로 부상하고 있다.

문제는 인간의 의식이 어떻게 만들어지는지조차 과학적으로 완전히 설명하지 못한다는 데 있다.

의식을 둘러싼 대표적인 견해 가운데 하나는 생물학적 자연주의(biological naturalism)다. 의식은 뇌라는 생물학적 조직에서 발생하며, 생물학적 물질 자체가 의식의 필수 조건이라는 주장이다.

반면 기능주의(functionalism)는 의식의 본질을 뇌가 무엇으로 만들어졌는지가 아니라 무엇을 하는지에서 찾는다. 뇌가 특정한 정보처리 기능을 수행하기 때문에 의식이 발생한다면, 동일하거나 충분히 유사한 기능을 수행하는 인공 시스템에서도 의식이 나타날 가능성을 배제할 수 없다는 논리다.

캐나다 생트쥐스틴병원 및 몬트리올대의 인지·계산신경과학 연구자 율리스 클라츠만과 독일 자유대 베를린의 아드리앙 되리히 교수는 최근 논문 ‘What biology can and cannot tell us about conscious AI’에서 바로 이 문제를 다뤘다.

두 연구자는 현재의 AI가 실제로 의식을 갖고 있는지를 판단하려 하기보다 한 단계 더 근본적인 질문을 던진다.

생물학은 인공 의식이 가능한지에 대해 어디까지 말해줄 수 있는가.

‘의식’이 아니라 ‘주관적 경험’을 묻다

의식이라는 개념 자체도 하나로 정의하기 어렵다. 깨어 있는 상태를 의미할 수도 있고, 외부 자극을 지각하거나 자기 자신을 성찰하는 능력을 뜻할 수도 있다.

연구자들이 집중하는 것은 이 가운데 현상적 의식(phenomenal consciousness)이다. 즉, 어떤 경험을 ‘느끼는 것’ 자체다.

푸른 하늘을 본다는 경험, 음악을 듣는 경험, 통증을 느끼는 경험 등이 여기에 해당한다.

인간은 자신이 이런 경험을 하고 있다는 사실을 직접 알 수 있다. 하지만 뇌의 어떤 물리적 과정이 주관적 경험을 만들어내는지는 아직 명확하게 밝혀지지 않았다.

이 지점에서 AI가 문제를 복잡하게 만든다.

대규모 언어모델은 인간과 상당히 자연스러운 대화를 수행하고, 수학 문제를 풀며, 이미지를 분석하고, 복잡한 추론을 수행한다. 외부에서 관찰하는 것만으로는 실제 사람과 대화하는 듯한 인상을 줄 정도다.

그러나 지능적인 행동과 주관적 경험은 같은 것인가라는 질문은 여전히 남는다.

AI가 의식이 있는 것처럼 행동한다고 해서 실제로 무엇인가를 경험하고 있다고 볼 수 있는지는 별개의 문제다.

클라츠만은 인간이 오랫동안 의식과 지능, 인지능력을 서로 연결해 생각해왔지만 AI가 인지적 능력의 일부를 모방하기 시작하면서 이 연결고리가 흔들리고 있다고 지적한다.

결국 필요한 것은 ‘의식처럼 보이는 행동’과 ‘실제 의식’을 구별할 수 있는 기준이다.

생물학적 뇌가 반드시 필요한가

생물학적 자연주의의 가장 강한 주장은 단순하다.

현재까지 인간을 포함해 의식을 가진 것으로 알려진 모든 존재는 생명체이며, 이들의 의식은 생물학적 뇌와 연결돼 있다. 반대로 컴퓨터나 책상 같은 무생물에서는 의식을 발견하지 못했다.

하지만 지금까지 모든 사례가 생물학적 존재였다는 사실만으로 생물학이 의식의 필수 조건이라고 결론 내릴 수는 없다.

어떤 현상이 특정한 환경에서만 발견됐다는 사실과 그 환경이 그 현상의 필수 조건이라는 주장은 다르기 때문이다.

이를 검증하기 위해서는 생물학적 조직이 의식 형성에 어떤 독특하고 대체 불가능한 역할을 하는지를 설명해야 한다.

연구자들은 이를 보여주기 위해 사고실험을 제시한다.

사람의 뇌 일부를 동일한 기능을 수행하는 컴퓨터 칩으로 교체한다고 가정해보자. 교체 이후에도 그 사람이 이전과 똑같이 보고, 말하고, 행동하고, 자신의 경험을 설명한다면 어떻게 해야 할까.

생물학적 자연주의를 엄격하게 적용하면 컴퓨터 칩이 들어간 순간 의식이 달라졌다고 봐야 한다. 하지만 외부에서 관찰되는 행동과 자기보고가 모두 이전과 동일하다면 그 차이를 실험적으로 확인할 방법이 없다.

이것이 생물학을 의식의 필수 조건으로 규정하는 이론이 직면하는 핵심적인 문제다.

검증 가능한 예측을 제시하지 못하는 이론은 실험과학의 영역에서 검증하기 어렵기 때문이다.

중요한 것은 ‘무엇으로 만들어졌나’가 아니라 ‘무엇을 하는가’

기능주의는 이 문제를 다른 방식으로 접근한다.

뇌가 의식을 만들어내는 이유는 뇌가 생물학적 물질로 구성됐기 때문이 아니라 특정한 정보처리 기능을 수행하기 때문이라는 것이다.

그렇다면 핵심적인 연구 대상은 생물학적 물질 자체가 아니라 의식과 관련된 뇌의 기능적 특성이 된다.

문제는 어떤 기능이 결정적으로 중요한지 아직 확정되지 않았다는 점이다.

예를 들어 뇌의 지속적이고 역동적인 신경활동, 생명체의 자기조절 능력, 뉴런 사이의 정보 통합, 서로 다른 수준의 뇌 활동이 상호작용하는 방식 등이 후보로 거론될 수 있다.

뇌의 이런 특성은 현재의 디지털 컴퓨터와 상당히 다르다.

하지만 다르다는 사실 자체가 의식의 필수 조건이라는 의미는 아니다.

예컨대 뇌의 신경활동은 연속적이고 역동적인 반면 전통적인 컴퓨터는 이산적인 디지털 연산을 수행한다. 그러나 컴퓨터는 연속적이고 복잡한 자연현상을 모델링할 수 있다.

따라서 ‘뇌가 연속적인 방식으로 작동한다’는 사실만으로 연속성이 의식의 필수 조건이라고 단정할 수 없다.

결국 특정한 뇌의 특성을 의식의 필수 조건으로 주장하려면 그 특성이 주관적 경험을 만들어내는 과정에서 어떤 인과적 역할을 하는지를 설명하고 검증해야 한다.

‘AI는 단지 다음 단어를 예측할 뿐’이라는 주장도 충분하지 않다

AI의 의식 가능성을 부정하는 논거 가운데는 직관에 의존한 주장도 적지 않다.

대표적인 것이 “지금까지 의식이 있는 존재는 모두 생물학적 존재였으므로 기계는 의식을 가질 수 없다”는 논리다.

그러나 이는 과학적 증명이라기보다 관찰된 사례를 일반화한 것이다.

AI를 평가할 때 흔히 등장하는 “대규모 언어모델은 결국 다음 단어를 예측하도록 훈련된 시스템일 뿐”이라는 주장 역시 마찬가지다.

복잡한 시스템의 작동 원리를 하나의 단순한 설명으로 환원한다고 해서 그 시스템에서 나타나는 모든 기능적 특성이 사라지는 것은 아니다.

인간 역시 생물학적 진화의 관점에서 보면 유전자를 다음 세대에 전달하도록 선택된 생명체라고 설명할 수 있다. 그러나 그러한 설명만으로 인간의 언어능력이나 추론능력, 감정과 의식까지 설명할 수 있는 것은 아니다.

따라서 AI의 현재 작동 방식을 단순한 ‘다음 토큰 예측’으로 규정하는 것만으로 복잡한 인지적 기능이나 향후 인공 의식의 가능성을 원천적으로 배제하기는 어렵다.

가장 어려운 문제는 ‘검증’이다

AI 의식 논쟁에서 가장 근본적인 장애물은 기술 자체보다 의식을 외부에서 어떻게 검증할 것인가에 있다.

타인의 의식을 직접 관찰할 수 없는 인간도 마찬가지 문제를 갖고 있다. 우리는 다른 사람이 고통을 느낀다고 믿지만 그 사람의 주관적 경험을 직접 측정할 수는 없다.

행동과 언어, 뇌 활동 등을 통해 간접적으로 추론할 뿐이다.

AI가 인간과 유사한 자기보고를 하고 감정에 관한 질문에 일관된 답변을 한다고 해도 그것만으로 실제 주관적 경험이 존재한다고 결론 내리기는 어렵다.

반대로 AI의 내부 구조가 인간의 뇌와 다르다는 이유만으로 의식을 부정하는 것 역시 과학적으로 충분하지 않을 수 있다.

결국 필요한 것은 의식의 존재 여부를 판별할 수 있는 객관적인 기준과 검증 가능한 이론이다.

AI가 의식이 있다고 볼 근거는 부족하다

두 연구자는 현재 AI 모델이 의식을 갖고 있는지에 대한 직접적인 결론을 내리지 않는다.

클라츠만 역시 현재의 AI 모델이 의식을 갖고 있을 가능성에 대해서는 회의적이지만 완전히 배제할 수는 없다는 입장이다.

이러한 신중한 태도는 AI 의식 논쟁에서 중요한 구분을 보여준다.

‘현재 AI가 의식을 갖고 있다는 증거가 없다’는 주장과 ‘기계는 원리적으로 의식을 가질 수 없다’는 주장은 전혀 다르다.

전자는 현재의 과학적 증거에 관한 판단이지만, 후자는 의식의 본질에 관한 이론적 주장이다.

향후 AI가 더욱 복잡한 정보처리 능력을 갖추면서 이 차이는 더욱 중요해질 수 있다.

만약 생물학적 조직 자체가 의식의 필수 조건이라면 인공 의식을 구현하기 위해서는 생물학적 특성을 가진 시스템을 만들어야 할 가능성이 있다.

반대로 의식이 특정한 정보처리 기능에서 발생한다면 연구의 초점은 인간의 뇌에서 의식을 만들어내는 기능적 조건이 무엇인지를 규명하는 방향으로 이동하게 된다.

그리고 그 조건을 인공 시스템이 재현할 수 있는지가 새로운 실험 대상이 된다.

결국 AI 의식 문제는 단순히 “기계가 인간처럼 생각할 수 있는가”의 문제가 아니다.

더 근본적인 질문은 ‘생각한다’는 것과 ‘무언가를 경험한다’는 것 사이에 어떤 차이가 있는가, 그리고 그 차이를 과학적으로 측정할 수 있는가에 있다.

현재로서는 답이 없다.

하지만 생성형 AI의 발전이 계속될수록 이 질문은 철학의 영역에만 머물기 어려워지고 있다. 앞으로의 AI 연구에서 중요한 것은 인간처럼 말하고 행동하는 시스템을 만드는 것을 넘어, 의식이라는 현상을 객관적으로 설명하고 검증할 수 있는 과학적 기준을 확보하는 것이 될 가능성이 크다.