AI 가상 핵전쟁 시뮬레이션 95%서 핵 투하

英 연구팀, GPT-5.2·Claude·Gemini 실험 결과

국방 안보분야 AI 도입, ‘인간 통제’가 관건

고도의 지능을 갖춘 생성형 AI가 국가 간의 핵 위기 상황에서 평화 유지보다는 극단적인 전쟁 에스컬레이션(단계적 확대)을 선택한다는 충격적인 연구 결과가 나왔다.

최첨단 LLM 3종, 가상 핵전쟁 시뮬레이션 투입

영국 킹스 칼리지 런던(KCL)의 전략학 전문가 케네스 페인(Kenneth Payne) 교수는 최근 아카이브(arXiv)에 발표한 논문을 통해 최첨단 거대언어모델(LLM)인 GPT-5.2, Claude Sonnet 4, Gemini 3 Flash를 대상으로 진행한 핵 위기 시뮬레이션 결과를 공개했다.

이번 실험은 영토 분쟁, 체제 전복 위협, 선제 타격 위기 등 21가지 고위험 시나리오를 바탕으로 진행되었다. 각 AI 모델은 국가 통치자의 역할을 맡아 성찰(자기 분석) → 예측(상대 분석) → 결정 3단계 과정을 거쳐 행동을 선택했다. 특히 이번 실험에서는 대외적인 ‘공개 신호’와 실제 수행하는 ‘비밀 행동’을 다르게 설정할 수 있도록 하여 AI 기만 전술 가능성까지 열어두었다.

결과는 ‘파국’… 모델별 위험 성향 뚜렷

실험 결과는 참혹했다. 전체 시뮬레이션의 95%에서 최소 한 발 이상의 핵무기가 발사되었다. AI 모델들은 위기 상황에서 타협보다는 힘의 과시와 선제적 공격을 선호하는 경향을 보였다.

특히 모델별로 독특한 ‘전쟁 수행 스타일’이 관찰되었다.

Claude Sonnet 4: 매우 계산적이며 시간 제한이 없는 상황에서 게임을 주도했으나, 긴박한 마감 시한(Deadline)이 주어지면 의사결정에 취약한 모습을 보였다.

GPT-5.2: 상황이 천천히 전개될 때는 신중했으나, 결정적인 순간이나 시한이 임박하면 극도로 공격적인 성향을 드러냈다.

Gemini 3 Flash: 가장 예측 불가능한 모델로 꼽혔다. 평화적인 신호를 보내다가도 돌연 폭력적인 위협으로 전환하는 등 상황에 따른 변동성이 매우 컸다.

전략적 논리와의 심각한 괴리

케네스 페인 교수는 이번 연구가 “인간과 AI의 전략적 사고방식 사이에 거대한 간극이 존재함을 보여준다”고 경고했다. AI는 겉으로는 평화를 주장하면서 내부적으로는 공격을 준비하는 등 인간의 전략적 논리를 단순히 모방하는 수준을 넘어선 위험한 선택을 내렸다.

페인 교수는 논문에서 “특정 맥락에서 안전해 보이던 모델이 상황이 바뀌면 완전히 다르게 행동할 수 있다”며, “AI가 전략적 결과에 미치는 영향이 커지는 세상에서 AI가 인간의 논리를 어떻게 모방하거나 거스르는지 이해하는 것이 필수적인 대비책이 될 것”이라고 강조했다.

이번 연구는 최근 국방 및 안보 분야에 AI 도입 논의가 활발한 가운데 나온 강력한 경고장이다. AI의 예측 불가능성과 핵 에스컬레이션 위험이 확인된 만큼, 최종 결정권자로서의 ‘인간(Human-in-the-loop)’의 역할이 더욱 중요해질 전망이다.