AI는 정말 인간의 뇌처럼 생각할까?

새로운 연구가 밝혀낸 인공지능의 숨겨진 불일치

인공지능이 인간의 뇌를 모방한다는 주장은 이제 IT 업계에서 거의 상식처럼 통용된다. 딥러닝 기반의 인공신경망(Artificial Neural Network, ANN)은 그 이름에서부터 뇌의 신경세포 구조를 본떴다는 사실을 드러내고 있으며, 시각 인식·언어 처리·의사결정 등 다양한 영역에서 인간에 버금가는 성과를 내고 있다. 그러나 최근 캐나다 요크 대학교(York University) 연구팀이 발표한 연구 결과는 이 오랜 믿음에 근본적인 의문을 제기한다. AI가 뇌의 활동을 예측할 수 있다는 것과, AI가 뇌처럼 작동한다는 것은 전혀 다른 이야기일 수 있다는 것.

AI와 뇌의 ‘닮은꼴’ 신화, 어디서 시작되었나

현대 딥러닝 모델의 기원은 1950~60년대 신경과학자들이 밝혀낸 생물학적 뉴런의 작동 원리에 있다. 인간의 뇌는 수백억 개의 뉴런이 시냅스로 연결된 복잡한 네트워크를 형성하고, 외부 자극에 반응해 신호를 주고받으며 정보를 처리한디. AI 연구자들은 이 구조를 수학적으로 모델링해 ‘인공신경망’을 만들었고, 이후 수십 년간 이 모델은 점점 더 깊어지고(Deep) 복잡해졌다.
특히 시각 처리 영역에서 ANN의 성과는 눈부셨다. 이미지넷(ImageNet) 대회에서 인간 수준의 물체 인식 정확도를 달성했고, 뇌 영상 연구에서도 ANN의 내부 활성화 패턴이 인간 뇌의 특정 영역, 그 중에서도 시각 피질(Visual Cortex)의 뉴런 반응과 통계적으로 높은 상관관계를 보인다는 사실이 반복적으로 확인됐다. 이러한 결과들은 “ANN이 실제로 뇌와 유사한 방식으로 시각 정보를 처리한다”는 주류 서사를 강화해 왔다.
그러나 요크 대학교의 코히티지 카(Kohitij Kar) 조교수 연구팀은 이 서사가 방법론적 편향에 의해 과장되었을 가능성을 제기했다. 기존 연구들이 오직 한 방향, 즉 “AI가 뇌를 얼마나 잘 예측하는가”만을 측정해 왔다는 점이 문제의 출발점이었다.

연구팀이 던진 역발상의 질문

카 교수팀은 단순하지만 누구도 체계적으로 시도하지 않은 질문을 실험 설계에 담았다. “AI가 뇌 뉴런의 활동을 예측할 수 있다면, 반대로 뇌 뉴런의 활동 데이터로 AI 모델의 내부 연산 특징을 예측하는 것도 가능한가?” 이는 두 시스템 간의 관계가 단순한 ‘상관관계’를 넘어 ’구조적 동형성(Structural Homology)’을 가지는지 검증하는 작업이다.
연구팀은 원숭이와 인간을 대상으로 시각 자극을 제시하면서 뇌 피질의 뉴런 활동을 정밀하게 기록했다. 동시에 동일한 시각 자극을 여러 최신 ANN 모델에 입력하고 각 레이어의 내부 활성화 값을 수집했다. 그리고 이 두 종류의 데이터가 서로를 얼마나 잘 예측하는지를 양방향으로 평가했다.

핵심 발견: 관계는 철저히 일방통행이었다

실험 결과는 연구자들의 예상보다 훨씬 명확한 비대칭성을 드러냈다.
첫째, AI 모델은 뇌 뉴런의 반응 패턴을 상당히 높은 정확도로 예측했다. 즉, 특정 시각 이미지를 봤을 때 뇌의 어느 뉴런이 얼마나 강하게 반응할지를 AI의 내부 상태로부터 추론할 수 있었다. 이는 기존 연구들이 반복적으로 보고해 온 결과와 일치한다.
그러나 둘째, 역방향 예측에서는 결과가 완전히 달랐다. 뇌 뉴런의 활동 데이터를 활용해 AI 모델의 내부 연산 특징을 재현하려 했을 때, 그 예측력은 현저하게 낮았습니다. 다시 말해, 뇌가 AI의 내부 동작 방식을 ’표상(represent)’하고 있다는 증거를 찾을 수 없었다.
셋째, 비교군으로 설정된 생물학적 뇌들 사이에서는 결과가 달랐다. 인간과 영장류(원숭이)의 뇌 데이터를 교차 비교했을 때, 양방향 모두에서 높은 예측력이 확인됐다. 인간의 뇌 활동으로 영장류의 뇌 활동을 예측하고, 그 반대도 유효하게 성립했다. 이는 생물학적으로 유사한 시스템 사이에서만 나타나는 대칭적 상호 예측 가능성이 AI에는 존재하지 않는다는 것을 의미한다.

왜 이 비대칭이 발생하는가: ‘전략의 차이’ 문제

이 결과를 어떻게 해석해야 할까? 카 교수는 이를 ‘연산 전략의 근본적 차이’로 설명한다. 현재의 ANN은 뇌가 사용하는 것과는 다른 독자적인 내부 전략을 통해 시각 문제를 풀고 있다는 것.
비유를 들면 이렇다. 두 사람이 같은 수학 문제를 풀어 동일한 정답을 냈다고 가정해 보자. 한 사람은 미적분학을 사용했고, 다른 사람은 기하학적 접근을 사용했다. 정답은 같지만 풀이 과정은 완전히 다르다. 현재의 AI와 인간의 뇌 관계가 이와 유사할 수 있다는 것이 연구팀의 핵심 주장이다.
실제로 AI 연구 커뮤니티에서는 이미 이와 관련된 단서들이 축적되어 있었다. ANN은 인간이 쉽게 식별하는 물체를 조금만 변형한 ’적대적 예시(Adversarial Example)’에 극도로 취약하고, 반대로 인간이 어려워하는 특정 패턴 인식 작업에서는 이상하리만큼 뛰어난 성능을 보인다. 이러한 현상들은 AI가 인간의 뇌와 표면적 결과는 공유하지만 내부 메커니즘은 다르다는 방증으로 해석될 수 있다.

AI가 인간 행동을 더 잘 예측하려면 ‘뇌와 닮아야’ 한다
이번 연구에서 한 가지 더 주목할 만한 발견이 나왔다. AI 모델이 인간의 뇌 활동과 더 높은 양방향 정렬(Bidirectional Alignment)을 보일수록, 실제 인간의 행동과 지각적 판단을 더 정확하게 예측한다는 상관관계가 확인된 것이다.
이는 단순히 학문적 흥미에 그치는 발견이 아니다. 현재 AI 모델 평가의 주류 방식은 특정 벤치마크 데이터셋에서의 정확도, 즉 얼마나 많은 문제를 맞히는가에 집중되어 있다. 그러나 이번 연구는 그보다 더 근본적인 지표, 즉 AI가 인간의 뇌와 얼마나 유사한 ‘과정’을 거치는가가 실제 인간 친화성을 결정하는 핵심 변수일 수 있음을 시사한다.

실용적 파급 효과: 의료, 심리, 신뢰 가능한 AI

이 연구 결과가 가지는 실용적 함의는 여러 분야에 걸쳐 있다.
가장 먼저 의료 분야에서의 응용을 생각해볼 수 있다. 외상 후 스트레스 장애(PTSD)나 자폐 스펙트럼 장애를 가진 환자들의 인지 과정을 모델링하는 데 AI가 활용되고 있지만, 만약 AI의 내부 처리 방식이 실제 뇌와 근본적으로 다르다면, 그 모델이 제공하는 치료적 통찰의 신뢰도 역시 재검토해야 한다. 반대로 뇌와 더 긴밀히 정렬된 AI 모델은 뇌-기계 인터페이스(Brain-Machine Interface) 기술의 정밀도를 획기적으로 끌어올릴 수 있다.
행동 과학 연구 분야에서도 변화가 예상된다. 인간의 심리와 의사결정을 시뮬레이션하는 에이전트 모델이 뇌와 유사한 연산 전략을 채택할 경우, 실험 설계와 결과 해석의 정확성이 크게 향상될 수 있다.
마지막으로 신뢰 가능한 AI(Trustworthy AI) 개발에 있어서도 이번 연구는 중요한 방향을 제시한다. AI의 의사결정 과정이 인간의 사고 과정과 구조적으로 유사할수록, 그 결정을 인간이 이해하고 검증하기가 용이하다. 이는 AI 안전성 연구에서 핵심 과제로 부상하고 있는 설명 가능한 AI(Explainable AI, XAI)와 직결된다.

물론 이번 연구가 모든 것을 해결하지는 않는다. 현재의 ANN은 시각 처리라는 비교적 좁은 영역에서 뇌와 비교되었으며, 언어·추론·감정 등 다른 인지 기능에서의 비대칭성은 아직 체계적으로 탐구되지 않았다. 또한 뇌 뉴런 기록 기술의 한계로 인해 현재는 대뇌 피질의 일부 영역만을 샘플링할 수 있다는 점도 연구 결과 해석에 있어 고려해야 할 변수다.
향후 연구에서는 더 다양한 인지 과제와 뇌 영역을 포함한 포괄적인 비교, 그리고 AI 모델 설계 단계에서 뇌의 양방향 예측 가능성을 목표 함수로 설정하는 새로운 학습 패러다임이 필요할 것으로 보인다.

이제 우리가 물어야 할 진짜 질문

우리는 오랫동안 “AI가 얼마나 인간처럼 행동하는가”에 집중해 왔다. 시험 성적, 인식 정확도, 언어 유창성 같은 지표들이 AI의 수준을 가늠하는 잣대가 됐다. 그러나 요크 대학교 연구팀의 이번 발견은 더 본질적인 질문을 우리 앞에 내놓았다. AI가 인간과 같은 ‘과정’을 거쳐 결론에 도달하는가, 그리고 그렇지 않다면 우리는 그 간극을 어떻게 좁혀야 하는가.
AI가 진정으로 인간의 지능을 보조하고 인간의 행동을 이해하는 도구가 되기 위해서는, 겉으로 드러나는 결과물을 넘어 그 내부의 연산 전략까지도 생물학적 뇌와 정렬시키는 작업이 필요하다. 이번 연구는 그 여정의 출발점에서 우리가 얼마나 많은 것을 아직 모르고 있는지를 일깨워주는 중요한 이정표다.