피드백 없는 자율 학습 : 기계보다 인간이 더 어려움을 겪는 이유
어린이가 농장에서 처음으로 양과 염소를 보았다. 부모가 각각의 동물을 가리키며 구별하는 방법을 가르쳐 준다. 다시 농장을 방문했을 때, 그 아이는 과연 이 두 동물을 구별할 수 있을까?
신경 과학자 프란시스카 브뢰커는 인간과 기계가 감독 없이 어떻게 배우는지를 연구하고 있으며, 이 과정에서 자율 학습이 진전을 도울 수도, 방해할 수도 있다는 흥미로운 사실을 발견했다.
이 연구는 Trends in Cognitive Sciences 저널에 발표됐다.
기계 학습에서는 알고리즘이 레이블 없는 대량의 데이터를 분석하여 유용한 패턴을 학습한다. 기계는 자율 학습으로 잘 배우지만, 인간은 비슷한 상황에서 어려움을 겪는 이유는 무엇일까?
최근 연구에 따르면, 답은 피드백이 없는 상황에서 예측을 하고 이를 강화하는 방식에 있다. 즉, 내면의 이해가 실제 과업과 얼마나 일치하는지가 중요하다. 예를 들어, 누군가 양과 염소의 차이를 “털”로만 이해한다면, 털이 많은 염소를 양으로 잘못 분류할 수 있다. 누군가 이를 바로잡아 주지 않으면, 잘못된 예측이 강화되어 올바른 차이를 배우기 더 어려워진다.
이 연구는 동물 구분뿐만 아니라, 악기 연주나 새로운 언어 습득에도 적용된다. 지도나 피드백 없이 사람들은 잘못된 방법을 강화하게 되어, 나중에 수정하기 더 어려워진다.
자율 학습은 초기 이해가 과업과 일정 부분 일치할 때 가장 효과적이며, 더 복잡한 과업에서는 피드백이 필수적이다. 자율 학습의 결과는 언제, 어떻게 작용하는지가 중요하다는 메시지를 전한다.
전문가와 자율 학습
실험실 연구는 자율 학습의 다양한 결과를 보여주지만, 실제 학습 상황에서의 의미를 이해하기 위해서는 전문성 획득을 살펴봐야 한다. 예를 들어, 방사선 전문의는 초기에는 구조화된 피드백을 받지만 점차 명확한 지도 없이 학습하게 된다. 자율 학습이 전문성을 키울 수 있다면, 일관된 개선을 기대할 수 있지만, 실제로는 그렇지 않다.
정기적인 피드백이 필요한 것으로 보이며, 이는 학습자가 정확한 정신적 모델을 구축하는 데 도움을 준다. 예를 들어, 운동 기술 학습에서는 초기 피드백 제거가 성능 저하로 이어질 수 있다.

자율 학습의 자기 강화
자율 학습은 종종 자기 강화 메커니즘에 의해 주도되며, 학습자가 자신의 예측을 바탕으로 학습하게 된다. 피드백이 없는 상황에서는 잘못된 예측이 지속되며, 이는 고정관념을 강화할 수 있다.
내부 피드백과 신경 메커니즘
자기 강화에는 외부 감독 없이 작동하는 내부 학습 신호가 필요하다. 연구에 따르면, 외부 피드백을 처리하는 뇌 영역이 자기 선택을 강화할 때도 활성화된다.
결론적으로, 자율 학습의 효과는 학습자의 정신적 모델과 과업 간의 일치에 따라 달라진다. 향후 연구는 실제 학습 맥락에서 자율 학습과 외부 피드백 간의 관계를 탐구해야 한다.
자율 학습의 역학을 이해하면 교육 접근 방식을 개선하고 다양한 분야에서 전문성을 개발하는 데 도움이 될 것이다. 자기 강화와 외부 피드백의 균형을 맞추면 깊고 지속적인 전문성을 키울 수 있다.
*Franziska Bröker et al, Demystifying unsupervised learning: how it helps and hurts, Trends in Cognitive Sciences (2024). DOI: 10.1016/j.tics.2024.09.005

David is the Editor of The Science Monitor. Drawing on extensive experience as the Republic of Korea (ROK) Navy officer, he provide in-depth analysis at the intersection of science, technology, global security, geopolitics, and maritime strategy.
Contact: navy@scimonitors.com | LinkedIn







