국내 연구진이 ‘뇌처럼 생각하는 인공지능’ 기술을 개발했다. 인공지능 할루시네이션(Hallucination) 문제를 완화할 수 있는 혁신적인 모델이다.
이번 연구는 인간이나 동물처럼 스스로 가설을 세우고 이를 검증하는 방식으로, 기존의 인공지능 모델을 넘어서 뇌의 맥락 추론 방식을 모방하는 새로운 접근법을 제시한다.
KAIST 연구팀은 동물이 스스로 가설을 세우고 이를 검증하며 빠르게 상황에 적응하는 방식의 새로운 강화학습 이론을 제안했다.
뇌와 인공지능의 차이점: 가설 검증의 중요성
현재 인공지능은 주어진 데이터를 바탕으로 최적의 해결책을 찾는 데 중점을 둔다. 그러나 이는 인간이나 동물의 행동을 완벽하게 설명하기 어려운 경우가 많다. 반면, 연구팀은 동물의 행동에서 중요한 가설 기반 적응 방식을 발견했다. 이들은 상황에 맞는 가설을 세우고, 그 가설을 검증하면서 행동 전략을 유연하게 조정한다. 연구팀은 이를 바탕으로 기존의 강화학습 이론이 동물 행동을 제대로 설명하지 못함을 증명했다.
연구팀은 동물의 행동을 예측하는 새로운 적응형 강화학습 모델을 제시했다. 이 모델은 동물이 가설을 세우고, 예측 오류를 기반으로 행동 전략을 비대칭적으로 업데이트하는 방식이다. 기존의 인공지능 모델은 주어진 문제를 효율적으로 해결하는 데 초점을 맞추지만, 이 새로운 모델은 예기치 못한 사건에 대한 반응을 더 정확하게 예측하는 데 성공했다. 실제 실험에서 이 모델은 기존 모델보다 최대 31% 더 높은 예측 정확도를 보였다.
뇌과학적 발견: 기저핵의 역할
이 연구에서 중요한 발견은, 중뇌 기저핵과 그 속의 선조체가 가설 기반 강화학습 과정에서 핵심적인 역할을 한다는 것이다. 연구팀은 기저핵 내의 경로 가시뉴런들이 예상된 사건과 예상되지 않은 사건에 대해 서로 다른 방식으로 반응하여, 행동 전략을 조절하는 메커니즘을 밝혀냈다.
연구 책임자인 뇌인지과학과 이상완 교수(신경과학-인공지능 융합연구센터장)는 “이번 연구는 뇌의 가설 기반 학습 원리를 밝혀낸 중요한 사례”라며, “이 원리를 대규모 인공지능 시스템에 반영하면, AI의 신뢰성과 효율성을 더욱 높일 수 있을 것”이라고 밝혔다.
이 연구는 맞춤형 교육 커리큘럼, 인사 관리, 인간-컴퓨터 상호작용 등 다양한 분야에 응용될 수 있다. 또한, 뇌과학-인공지능 융합연구의 성과로서, 중독과 강박증과 같은 정신 질환의 원인 규명에도 활용될 수 있을 것으로 기대된다.
이상완 교수와 생명과학과 정민환 교수(IBS 시냅스 뇌질환 연구단 부연구단장)가 주도한 이번 연구는 KAIST와 함께 과학기술정보통신부, 한국연구재단 등 다양한 연구 지원 기관의 도움을 받아 진행됐다.
연구 결과는 네이처 커뮤니케이션스에 발표됐다.
