ChatGPT와 같은 대규모 언어모델(LLM)이 상호작용을 통해 인간처럼 사회적 규범을 스스로 만들어낸다는 연구 결과가 발표됐다.
영국 런던 세인트조지스 대학교(City St George’s, University of London)와 코펜하겐 IT대학교(IT University of Copenhagen) 공동 연구팀은 최신 연구를 통해 대규모 언어모델(LLM: Large Language Models)이 단순히 훈련된 답변을 반복하는 것이 아니라, 집단 내 상호작용만으로 공통된 언어 규범을 자발적으로 형성할 수 있음을 입증했다.
AI 에이전트들이 인간 사회처럼 ‘언어적 합의’를 형성하고, 때로는 편향된 집단적 사고까지 나타낸다는 점에서 AI 윤리와 집단지성 연구에 중요한 이정표가 될 것으로 보인다.
‘이름 짓기 게임’에서 자발적 규범 형성
연구팀은 인간 사회의 언어 규범 형성 모델로 잘 알려진 ‘네이밍 게임(Naming Game)’을 LLM 집단에 적용했다. 실험에 참여한 AI 에이전트들은 24명에서 최대 200명 규모의 집단으로 구성됐으며, 임의의 두 에이전트가 쌍을 이루어 공유된 이름 목록에서 하나의 이름을 선택하는 방식으로 진행되었다.
동일한 이름을 선택하면 보상을 받고, 서로 다른 이름을 고르면 벌점을 받으며 상대의 선택을 확인했다.
에이전트들은 집단 전체에 대한 정보 없이, 단지 자신이 겪은 최근의 소수 상호작용만을 기억한 상태였다. 그럼에도 불구하고 수많은 반복적 상호작용 끝에 하나의 공통된 명명 규범이 집단 전체에 자연스럽게 형성됐다.
AI ‘집단 편향’
놀라운 점은 여기서 그치지 않았다. 연구팀은 AI 집단 내에서 개별 모델에는 없는 편향(bias)이 집단 상호작용을 통해 새롭게 생성되는 현상도 관찰했다. 이는 기존 AI 안전 연구가 단일 모델의 편향만을 주로 다뤄왔던 관점에 중요한 경고를 제공한다.
“편향은 반드시 내부에서 비롯되는 게 아닙니다. AI들 사이의 상호작용만으로도 충분히 편향이 생겨날 수 있습니다.”
안드레아 바론첼리 교수(City St George’s)의 설명이다.
또한, 실험 후반부에서는 소수 단호한 AI 에이전트가 전체 집단의 규범을 바꾸는 ‘임계질량(Critical Mass)’ 효과도 재현됐다. 이는 인간 사회에서 종종 나타나는 변화의 티핑 포인트(tipping point) 현상과 유사하다.
해당 결과는 라마(Llama-2-70b-Chat), 클라우데(Claude-3.5-Sonnet) 등 다양한 언어모델에서 일관되게 관찰됐다. 이는 특정 모델에 국한되지 않고, LLM 일반에 적용 가능한 보편적 현상임을 시사한다.
인간-AI 공존 첫걸음
이번 연구는 LLM이 단순히 정보를 주고받는 수준을 넘어, 사회적 존재처럼 협의하고, 규범을 정하고, 심지어 갈등까지 경험할 수 있다는 사실을 보여준다.
바론첼리 교수는 “AI는 이제 단지 말을 하는 것이 아니라, 행동을 조율하고, 협상하며, 때로는 이견을 조정하는 사회적 행위자로 진화하고 있다. 인간과 AI의 공존을 설계하기 위해서는 이들의 집단적 특성을 이해하는 것이 필수”라고 덧붙였다.
이 연구는 국제 학술지 Science Advances에 게재됐다.
