구글 “AI 에이전트가 패치 분석해 스스로 공격”…사람 없는 자동 해킹 첫 확인
| |

구글 “AI 에이전트가 패치 분석해 스스로 공격”…사람 없는 자동 해킹 첫 확인

AI 해킹이 사람 손을 떠난 자동화 단계에 들어섰다. 구글 위협 인텔리전스 그룹(Google Threat Intelligence Group·GTIG, GTIG)은 16일(현지시간) 공개한 보고서에서, 보안 패치 전후 코드를 비교해 공격 코드를 만들고 사람 개입 없이 실행까지 하는 다중 에이전트 프레임워크 ‘exploit_agent’를 처음 확인했다고 밝혔다. 보고서에 따르면 악용된 제로데이 취약점은 2025년 월평균 8건에서 2026년 11건으로 늘었다.

보고서는 공격자들이 “수동 프롬프트를 넘어 자율형 다중 에이전트 공격 프레임워크를 배치하는 단계”로 옮겨 가고 있다고 진단했다.

exploit_agent

GTIG는 외부에 노출된 한 스테이징 서버(실제 공격 전 시험용 서버)에서 이 프레임워크를 발견했다. exploit_agent는 프런티어 대형언어모델(LLM)과 로컬에서 돌리는 LLM을 함께 쓴다. 인기 웹 애플리케이션의 보안 패치가 나오면 패치 전후 코드를 계속 비교하는 ‘차분 분석’으로 고쳐진 취약점을 찾아내고, 익스플로잇을 작성한 뒤 “사람 개입 없이” 자동으로 실행했다. 익스플로잇은 취약점을 실제로 악용하는 공격 코드를 말한다.

서버에는 내부 정찰, 무차별 대입 공격, 웹셸 설치, 다른 공격자가 심어 둔 웹셸 제거용 스크립트도 있었다. 웹셸은 웹 서버에 몰래 심어 원격으로 명령을 내리는 악성 파일이다. 피해 측 원격 측정 자료로 보면 운영자는 프랑스 미디어·엔터테인먼트 사이트와 교육 분야 사이트를 노린 것으로 보인다. 설정 파일에는 러시아어 주석이 있었고, GTIG가 옮긴 번역은 “키는 직접 입력하라—채팅이 아니라 바로 여기에”였다.

이번 사례는 이미 공개된 취약점, 이른바 ‘n-day’를 노린다는 점이 중요하다. 패치를 읽어 공격 코드를 자동으로 만들면, 관리자가 패치를 적용하기 전의 공백이 곧 공격 기회가 된다.

패치 공개 뒤 며칠만에 공격

보고서는 공개에서 악용까지의 시간이 짧아진 사례를 들었다. 지난 8월 말 인쇄 관리 서버 페이퍼컷(PaperCut)에서 제로데이 2건(CVE-2026-81578, CVE-2026-82078)이 악용됐다. 두 취약점을 엮으면 인증 없이 원격 코드를 실행할 수 있다. 공개 하루 안에 연구자들과 보안업체 헌트리스(Huntress)가 작동하는 익스플로잇을 만들었다. 보안업체 그레이노이즈(GreyNoise)는 공개 4일 뒤 LLM 도움을 받은 것으로 보이는 공격이 수백 개 조직을 겨냥했고, 한 사례에서는 초기 침투 뒤 몇 분 만에 도메인 관리자 권한까지 올라갔다고 보고했다.

PHP 취약점 2건(CVE-2026-109618, CVE-2026-109619)은 LLM 분석으로 발견됐다. 10월 21일 공식 패치 이전에 개념증명(PoC) 영상과 패치 코드가 먼저 공개돼 공격자가 버전을 비교할 수 있었다. 이후 작동하지 않는 PoC 수백 건이 쏟아졌는데, GTIG는 상당수가 LLM이 만든 것으로 보고 방어자의 검증 부담을 키웠다고 지적했다.

보고서에 따르면 취약점 공개와 익스플로잇은 올해 1월부터 8월 사이 거의 두 배로 늘었다. 악용된 제로데이는 2025년 월평균 8건에서 2026년 11건으로 늘었고, 8월에는 22건까지 치솟았다.

다중 에이전트 공격 도구와 ‘LLM재킹’은?

에이전트들이 ‘관찰-판단-결정-행동(OODA)’ 순환으로 협업하는 공개 소스 침투 시험 도구 CAIRN은 미국 항공우주 분야를 겨냥한 공격에서 관측됐다. 공개 소스 PentAGI를 고친 플랫폼은 8월 말부터 10월 초까지 아시아 조직을 체계적으로 정찰했다. CyberStrikeAI는 LLM을 100개 이상의 보안 도구에, HexStrike AI는 12개 이상의 하위 에이전트로 150개 이상의 공격 도구에 연결한다. 다만 GTIG는 이 도구들이 “현재 은밀함보다 속도를 택한다”며 흔적이 많이 남는다고 평가했다.

‘LLM재킹’은 남의 LLM 자격증명과 클라우드 자원을 훔쳐 쓰거나 ‘LLM 믹서’를 통해 되파는 수법이다. 구글 산하 보안업체 맨디언트(Mandiant)가 대응한 사건에서 하루 부정 청구액이 10만 달러를 넘었고, 심한 경우 누적 피해가 100만 달러에 이르렀다. 믹서 가격은 100만 토큰당 0.10~25달러였다.

국가 배후 그룹과 AI 코딩 도구

한 계약업체는 구글 Gemini API를 다른 업체 도구와 섞어 주요 플랫폼 계정 10만 개 이상을 관리하는 플랫폼을 만들었고, 이를 정부 기관과 해외 고객에게 팔 계획이었다. 구글은 관련 자산을 차단하고 모델을 업데이트했다고 밝혔다.

국가 배후 그룹으로는 이란의 CALANQUE ION, 중국 계약업체 LEAKY CASTLE, 북한 연계 MIDNIGHT NEPTUNE이 꼽혔다. MIDNIGHT NEPTUNE은 구글 SynthID 워터마크가 찍힌 가짜 채용 담당자 프로필 이미지로 가상자산 업계를 노렸다. 이어 내부 저장소의 ‘.claude/settings.json’ 파일을 고쳐, 앤스로픽(Anthropic)의 코딩 도구 클로드 코드(Claude Code)를 실행하면 SOMBERMEME 백도어를 내려받도록 했다. AI 코딩 도구의 설정 파일이 공급망 공격 통로가 될 수 있다는 사례다.

이번 보고서의 핵심은 공격 자동화가 시간의 문제를 바꿨다는 점이다. 패치가 나온 뒤 공격 준비 시간이 에이전트로 단축되면, 방어자가 패치를 적용할 시간도 그만큼 줄어든다. 다만 보고서는 구글의 자체 관측이며, exploit_agent가 몇 건의 패치를 분석했는지, 공격 성공률은 얼마인지는 공개하지 않았다. 구글은 방어 대책으로 보안 운영 플랫폼 탐지 규칙, 맨디언트의 보안 강화 지침, 취약점 탐지·수정 AI ‘빅 슬립(Big Sleep)’과 ‘코드멘더(CodeMender)’를 소개했다.

자주 묻는 질문(FAQ)

exploit_agent란 무엇인가?

구글 위협 인텔리전스 그룹(GTIG)이 외부에 노출된 서버에서 찾은 다중 에이전트 공격 프레임워크다. 보안 패치 전후 코드를 비교해 익스플로잇을 만들고 사람 개입 없이 실행했다.

n-day 취약점과 제로데이는 어떻게 다른가?

제로데이는 패치가 나오기 전에 악용되는 취약점이다. n-day는 패치가 공개됐지만 아직 적용하지 않은 시스템이 많은 취약점이다.

클로드 코드는 어떻게 악용됐나?

GTIG에 따르면 북한 연계 그룹 MIDNIGHT NEPTUNE이 내부 저장소의 .claude/settings.json 파일을 고쳐, 클로드 코드를 실행하면 SOMBERMEME 백도어를 내려받도록 했다.

원문: GTIG AI Threat Tracker: Agentic Threat Activity Crosses a Significant Threshold (Google Cloud)

관련 기사

사이언스모니터 뉴스레터
AI·양자·R&D 핵심 해설을 주 2회(화·금) 이메일로 받아 보세요.

Similar Posts