AI 온라인 뉴스 댓글 분석…해외계정 수 만개 ‘한국 사회 분열’ 노렸다

KAIST·막스플랑크 공동연구진, 네이버 뉴스 20년 댓글 1억1,200만 건 분석

400만 이용자 중 2만3998개 계정 식별…특정 진영 지지보다 ‘갈등 증폭’ 패턴

온라인에서 벌어지는 정치적 갈등은 어디까지가 자발적인 여론이고, 어디서부터 누군가 의도적으로 증폭시킨 영향력 활동일까.

한국과학기술원(KAIST) 연구진이 20년에 걸쳐 축적된 1억1,000만 건 이상의 뉴스 댓글을 인공지능(AI)으로 분석해 외국 연계 영향력 활동과 일관된 행동을 보이는 것으로 의심되는 계정들을 찾아냈다. 연구진은 단순히 의심 계정을 분류하는 데 그치지 않고, AI가 왜 해당 계정과 댓글을 의심했는지 그 근거가 된 표현까지 제시하는 설명 가능한 AI 기술을 개발했다.

이번 연구에는 KAIST 문화기술대학원 이원재 교수, 전산학부 차미영 교수와 오혜연 교수가 참여했으며, 독일 막스플랑크 연구소 토르스텐 홀츠 교수와 국제 공동연구로 진행됐다. 연구 결과는 컴퓨터 보안 분야 국제학술대회인 USENIX Security Symposium 2026에서 발표될 예정이다.

연구진이 분석한 데이터는 2006년부터 2025년까지 네이버 뉴스에 작성된 약 1억1,200만 건의 댓글이다. 약 400만 이용자의 장기간 활동 기록을 대상으로 댓글의 내용뿐 아니라 계정의 활동 빈도와 기간, 다른 계정과의 연관성 등을 함께 분석했다.

연구의 출발점은 국가안보전략연구원이 사전에 식별한 외국 연계 계정 70개였다. 연구진은 이들 계정과 연관된 계정이나 동일한 기사에서 반복적으로 활동한 계정 등을 추적해 분석 범위를 확대했다.

이 같은 방식은 온라인 영향력 활동을 특정 댓글 하나의 문제로 바라보는 기존 접근과 다르다. 개별 댓글의 표현만으로는 정상적인 정치적 의견과 조직적인 영향력 활동을 구분하기 어렵지만, 장기간의 활동 기록과 다른 계정과의 관계를 함께 분석하면 이전에는 보이지 않던 행동 패턴을 찾아낼 수 있기 때문이다.

연구진이 개발한 AI는 댓글의 내용과 감정, 계정의 행동을 단계적으로 분석했다. 먼저 외국과의 연계 가능성을 의심할 만한 표현과 맥락을 살피고, 이어 도덕적 비난이나 맹목적 찬양처럼 사회적 양극화를 키울 수 있는 감정적 표현을 분석했다. 마지막으로 이러한 감정과 메시지가 어느 국가나 대상, 인물을 향하고 있는지 파악했다.

이번 연구에서 특히 주목되는 부분은 의심 계정들이 특정 정치 진영을 일방적으로 지지하는 방식으로만 움직이지 않았다는 점이다.

연구진은 오히려 한국 사회 내부의 갈등과 대립을 증폭시키는 메시지가 두드러졌다고 설명했다. 외국이나 특정 외국 세력을 직접 찬양하는 것보다 국내 정치인이나 정치세력을 대상으로 강한 도덕적 비난을 반복하면서 갈등을 자극하는 패턴이 나타났다는 것이다.

대중의 호응을 많이 얻은 상위 10개 표적 가운데 7개가 국내 유명 정치인으로 나타났으며, 특정 정당이나 이념에 집중되지 않고 진보와 보수 양쪽의 전·현직 대통령과 대선 후보, 정당 등이 폭넓게 포함됐다.

이 결과는 온라인 영향력 활동을 단순히 ‘어느 정치세력을 지지하는가’라는 관점에서만 분석해서는 안 된다는 점을 보여준다. 특정 진영을 직접 지원하기보다 기존의 정치적 갈등을 자극해 사회적 불신과 양극화를 확대하는 방식으로 영향력을 행사할 가능성도 고려해야 한다는 의미다.

온라인 여론전의 목표가 반드시 특정 후보나 정당의 지지율을 높이는 데 있는 것은 아닐 수 있다. 사회 내부에 이미 존재하는 갈등을 찾아내고 이를 반복적으로 자극함으로써 정치권 전체에 대한 불신을 확대하는 것 자체가 영향력 행사의 목적이 될 가능성이 있다.

이번 연구에서 AI가 분석한 것은 단순한 댓글의 긍정과 부정 여부가 아니다. 연구진은 도덕적 비난과 같은 감정적 요소가 어떤 대상과 결합되는지, 이러한 표현이 장기간 반복되는지, 다른 의심 계정들과 어떤 활동 관계를 형성하는지를 함께 살폈다.

이는 생성형 AI와 자동화 기술이 확산되는 환경에서 더욱 중요해질 수 있다. 콘텐츠 자체는 손쉽게 만들어지고 변형될 수 있기 때문에 특정 문구나 단어만으로 영향력 활동을 찾아내는 방식에는 한계가 있기 때문이다.

반면 계정의 활동 시간, 빈도, 연결 관계, 반복되는 주제와 감정 등 행동 데이터는 상대적으로 장기간의 흔적을 남긴다. 이번 연구는 이러한 디지털 행동의 흔적을 AI가 대규모로 분석할 수 있음을 보여준다.

AI가 의심한 문장까지 제시하는 설명 가능한 탐지 기술

연구진은 이 과정에서 AI가 단순히 ‘의심스럽다’는 결과만 내놓지 않도록 했다. AI가 판단을 내리는 데 영향을 준 댓글 속 구체적인 표현과 맥락을 함께 제시하도록 설계했다.

이른바 설명 가능한 AI다.

이는 실제 온라인 공론장에서 매우 중요한 차이다. 정치적 표현은 본질적으로 논쟁적이며 강한 비판이나 감정적인 표현 자체가 외국 연계 영향력 활동을 의미하지 않는다. AI가 특정 계정을 의심한다고 해서 그 결과만으로 계정을 차단하거나 제재해서는 안 되는 이유다.

연구진이 제시하는 활용 방식도 AI가 최종 판정을 내리는 구조가 아니다. AI가 방대한 댓글과 계정 활동을 먼저 분석해 우선적으로 확인할 필요가 있는 대상을 찾아내고, 전문가가 AI가 제시한 표현과 활동 기록을 검토해 최종 판단하는 방식이다.

따라서 이번 연구에서 식별된 2만3,998개 계정을 곧바로 ‘외국 정부가 운영하는 계정’의 숫자로 해석해서는 안 된다. 연구진이 설정한 기준과 분석 모델에 따라 외국 연계 영향력 활동과 일관된 패턴을 보이는 것으로 분류된 계정이며, 실제 운영 주체나 배후 조직을 확인하는 것은 별도의 조사와 검증이 필요한 영역이다.

이 구분은 기술의 활용 범위를 결정하는 데 중요하다. AI 기반 탐지 시스템이 정치적 비판이나 논쟁적인 표현을 외국 영향력 활동으로 오인할 경우 오히려 디지털 공론장의 자유와 다양성을 훼손할 수 있기 때문이다.

이번 연구가 제시하는 방식은 AI를 여론의 ‘판정자’가 아니라 디지털 공론장의 ‘탐지 센서’로 활용하는 데 가깝다.

AI가 1억 건이 넘는 댓글을 먼저 읽고 반복되는 행동과 이상 패턴을 찾아낸 뒤 사람이 확인해야 할 대상을 좁혀주는 방식이다. 특히 AI가 판단의 근거가 된 문장까지 제시한다면 전문가가 AI의 분석 결과를 검증하고 오류를 찾아내는 것도 가능해진다.

이러한 기술은 선거처럼 온라인 정치 활동이 급격히 증가하는 시기에 활용 가능성이 크다. 선거 기간에는 정치 관련 댓글과 게시물이 폭증하는 만큼 사람이 모든 콘텐츠를 직접 모니터링하기 어렵다.

AI가 계정의 활동 빈도와 기간, 다른 계정과의 연결성, 감정적 표현, 주요 표적 등을 동시에 분석한다면 전문가가 우선적으로 살펴봐야 할 계정과 메시지를 좁힐 수 있다.

다만 이 과정에서 기술이 민주적 의사표현을 감시하거나 통제하는 수단으로 변질되지 않도록 하는 장치가 필요하다. AI의 분류 결과를 곧바로 제재로 연결하기보다 판단 근거를 공개하고 사람이 검증하는 구조가 필요한 이유다.

이원재 교수는 “20년간의 데이터를 분석한 결과, 의심 계정들은 외국을 직접 찬양하기보다 한국과 국내 정치인을 비난하며 갈등을 키우는 패턴을 보였다”며 “선거 등 사회적 갈등이 높아지는 시기에 우선 검토해야 할 메시지를 가려내는 기준이 될 것”이라고 설명했다.

오혜연 교수는 “AI가 댓글의 표면적인 의미를 넘어 갈등을 유발하는 감정과 계정의 조직적인 행동 패턴까지 함께 분석했다”며 “갈수록 교묘해지는 온라인 영향력 활동을 탐지하는 데 활용될 것으로 기대한다”고 말했다.

차미영 교수는 “이번 연구는 데이터 과학을 실제 사회 문제 해결로 연결한 ‘액셔너블 데이터 과학(Actionable Data Science)’의 사례”라며 “디지털 공론장의 투명성과 신뢰를 높이는 실질적인 도구가 되길 기대한다”고 밝혔다.

이번 연구가 던지는 질문은 결국 ‘가짜뉴스를 얼마나 많이 찾아낼 수 있는가’에 그치지 않는다.

미래의 온라인 영향력전은 반드시 거짓 정보를 대량으로 만들어내는 방식으로만 작동하지 않을 수 있다. 사회 안에 이미 존재하는 정치적 갈등과 불신을 찾아내고 이를 반복적으로 자극하는 것만으로도 이용자 스스로 콘텐츠를 확산시키게 만들 수 있기 때문이다.

이 경우 영향력 활동의 주체가 직접 모든 콘텐츠를 확산할 필요도 없다. 소수의 계정이 갈등을 자극하는 메시지를 반복하고, 실제 이용자들이 분노하고 반박하는 과정에서 콘텐츠가 더 넓게 확산될 수 있다.

결국 온라인 영향력전의 핵심이 ‘거짓말의 생산’에서 ‘감정의 증폭’으로 이동할 가능성도 있다.

그렇다면 AI가 찾아야 할 대상 역시 달라진다. 단순히 특정 정보가 사실인지 아닌지를 판단하는 것만으로는 충분하지 않다.

누가 어떤 메시지를 반복하고 있는지, 어떤 계정들이 연결돼 있는지, 어떤 감정을 지속적으로 자극하고 있는지, 그리고 그 결과 사회적 갈등이 어떻게 증폭되고 있는지를 함께 분석해야 한다.

KAIST 연구진의 이번 연구는 이러한 변화를 데이터 과학의 영역으로 끌어들였다는 점에서 의미가 있다. 20년에 걸친 1억1,200만 건의 댓글을 하나의 거대한 디지털 생태계로 보고 그 안에서 반복되는 행동과 감정, 계정 간 관계를 분석한 것이다.

AI가 인간의 생각을 판정하는 것은 아니다. 대신 인간이 직접 볼 수 없는 규모의 데이터를 읽고 이상 징후를 찾아낸 뒤, 그 판단의 근거를 다시 인간에게 돌려준다.

디지털 민주주의를 지키기 위해 필요한 AI는 어쩌면 사람의 말을 통제하는 AI가 아니라, “여기에서 무언가 반복되고 있다”고 경고하면서 왜 그렇게 판단했는지까지 설명할 수 있는 AI일 수 있다.

KAIST와 막스플랑크 연구진이 20년간의 한국 뉴스 댓글에서 찾아낸 것은 단순한 ‘외국발 댓글’의 목록이 아니다. 그것은 온라인 여론전이 콘텐츠 자체를 넘어 사람들의 감정과 사회적 갈등을 증폭시키는 방향으로 진화할 수 있다는 가능성과, 그 흔적을 데이터로 추적할 수 있는 새로운 방법을 동시에 보여준다.

논문 제목은 ‘Cross-National Information Attacks: A Two-Decade Analysis of Troll Behavior in Korea’이며, 공동 제1저자인 KAIST 김재홍 박사과정과 김현승 석사과정이 연구를 주도했다. 이번 연구는 현대차 정몽구 재단과 과학기술정보통신부·정보통신기획평가원, 한국연구재단, KAIST 첨단데이터컴퓨팅연구실 등의 지원을 받아 수행됐다.