AI 시스템 가소성과 심층 연속 학습

AI 심층학습(deep learning)에 사용되는 현재 인공 신경망(artificial neural networks) 시스템은 새로운 데이터에 대한 확장된 학습 중에 학습 능력을 잃는다고 알려졌다.

캐나다 앨버타 대학교(University of Alberta) AI 연구 그룹은 심층 지속 학습(deep continual learning), 즉 감독 학습과 강화 학습 AI 시스템 모두에서 가소성을 통해 이러한 문제를 극복하여 계속해서 학습할 수 있는 방법을 찾았다고 밝혔다.

지난 몇 년 동안 AI 시스템이 주류가 됐다. 그 중에는 챗봇에서 지능적인 응답을 생성하는 대규모 언어 모델(LLM)이 있다. 하지만 이 모든 시스템에는 사용 중에도 학습을 계속할 수 있는 능력이 부족하여 더 많이 사용되면서 정확도가 높아지지 않는다. 또한 새로운 데이터 세트에 대한 학습을 ​​통해 더 지능적으로 성장할 수 없다.

연구자들은 기존 신경망이 원래 데이터 세트에서 학습한 후에도 학습을 계속할 수 있는지 테스트했고, 새로운 자료에서 학습한 후에는 시스템이 수행할 수 있었던 작업을 수행하는 능력을 잃는 재앙적 망각이라고 설명하는 현상을 발견했다.

그들은 LLM이 순차적 학습 시스템이 되도록 설계되었고 고정된 데이터 세트에서 학습하여 학습한다는 점을 고려할 때 이 결과는 논리적이라고 지적했다. 테스트 중에 연구팀은 시스템이 여러 작업에서 순차적으로 학습하면 학습 능력을 완전히 잃는다는 사실을 발견했다. 그들은 이를 가소성 상실이라고 설명했다. 하지만 그들은 또한 네트워크의 노드와 이전에 연관되었던 가중치를 재설정하여 문제를 해결하는 방법을 찾았다.

인공 신경망에서 가중치는 노드에서 강도의 척도로 사용된다. 가중치는 노드 간에 전송되는 신호를 통해 강도를 얻거나 잃을 수 있으며, 이는 다시 수학적 계산 결과에 영향을 받는다. 가중치가 증가함에 따라 전달하는 정보의 중요성이 증가했다.

연구자들은 시스템을 초기화하는 데 사용한 것과 동일한 방법을 사용하여 훈련 세션 간에 가중치를 다시 초기화하면 시스템의 가소성을 유지하고 추가 훈련 데이터 세트에 대한 학습을 ​​계속할 수 있을 것이라고 제안했다.

연구는 Nature 저널에 보고됐다.