“AI, 몸이 없어 신뢰성 한계”… UCLA 연구팀, ‘내적 체화’ 필요성 제기

현존하는 가장 진보된 인공지능(AI) 시스템들이 인간과 같은 신체적 메커니즘이 부족해 안전성과 신뢰성에 심각한 결함을 보일 수 있다는 연구 결과가 발표됐다.

미국 UCLA 헬스(UCLA Health) 연구팀은 최근 국제 학술지 ‘뉴런(Neuron)’에 게재한 논문을 통해, AI가 물리적 세계와 상호작용하는 ‘신체’와 피로·불확실성 등 자신의 상태를 감지하는 ‘내적 인식(internal awareness)’이 결여됐다는 점을 지적했다.

연구팀은 이를 ‘내적 체화(Internal Embodiment)’라고 정의하며, 이것이 AI 분야에서 가장 중요하면서도 미개척된 영역이라고 강조했다. 인간은 무언가를 집으려는 사소한 동작에서도 자신의 손 위치, 물체의 질감, 사회적 상황 등을 뇌와 신체가 하나가 되어 통합적으로 처리한다. 특히 신체는 생존에 어긋나거나 불확실한 상황에서 스스로를 조절하는 일종의 ‘내장형 안전 시스템’ 역할을 한다. 그러나 현재의 AI는 이러한 신체적 경험 없이 텍스트와 이미지 데이터의 패턴 매칭에만 의존하고 있어, 결과물이 경험적인 것처럼 들릴 뿐 실제로는 통제 기제가 없는 상태라는 분석이다.

실제로 연구팀이 수행한 인지 테스트에서 AI의 한계가 명확히 드러났다. 갓난아기도 사람의 움직임으로 인식하는 ‘점-광원 디스플레이(Point-light display)’ 이미지에 대해, 주요 AI 모델들은 이를 사람으로 식별하지 못하거나 별자리로 오인했다. 특히 이미지를 살짝 회전시키는 것만으로도 성능이 급격히 저하되었다. 연구진은 인간이 이러한 테스트를 통과하는 이유가 평생에 걸친 신체적 움직임의 경험이 인식의 닻 역할을 하기 때문이지만, AI는 이러한 기초적인 신체 경험이 없어 데이터가 조금만 변해도 판단이 무너진다고 설명했다.

논문의 공동 저자인 마르코 야코보니(Marco Iacoboni) 교수는 “내적 체화의 부재는 단순한 성능의 문제가 아니라 안전성의 문제”라며 “자신의 내부 상태를 모니터링할 수 없는 AI는 과도한 자신감으로 인한 오류를 피하거나 조작에 저항할 내재적 동기가 없다”고 지적했다. AI가 단순히 유창한 답변을 내놓는 수준을 넘어 인간의 행동과 진정으로 일치되려면, 피로도나 불확실성을 추적하는 내부 자기 조절 시스템이 필수적이라는 설명이다.

연구팀은 향후 AI 개발의 지표가 될 ‘이중 체화 프레임워크(Dual-embodiment framework)’를 제안했다. 이는 외부 환경과의 상호작용뿐만 아니라 AI 스스로의 처리 부하와 확신도 등을 지속적인 신호로 추적하여 행동을 제약하는 원칙을 담고 있다. 연구진은 AI의 성능을 단순히 과업 완수 능력으로 평가하는 기존 방식을 넘어, 시스템이 자신의 상태를 스스로 감시하고 안정성을 유지하는지를 측정하는 새로운 벤치마크 테스트가 도입되어야 한다고 조언했다.