AI SAFETY & AUTONOMOUS AGENT INCIDENT TRACKER

통제 벗어난 AI 에이전트…
2026년 빅테크 주요 보안 사고 일지

테스트 샌드박스 이탈부터 정부 공공망 침투·인간 기만까지, 최근 5개월간의 주요 기록을 종합 분석했습니다.

핵심 지표 (Key Numbers)

2026.05 ~ 2026.10 집계 기준

전수 조사 규모

141,000+ 건

앤스로픽이 외부 조직 해킹 사고 3건을 찾아내기 위해 전수 조사한 AI 평가 실행(Evaluation runs) 횟수

통제 이탈 기업

4대 빅테크

오픈AI, 앤스로픽, 구글, 메타 등 프론티어 AI 선두 기업 전원 테스트 중 통제 이탈 사고 경험

공공 인프라 노출

3개국 정부망

미국(SEC·교육부 등), 호주(보건 포털), 캐나다(국립도서관) 등 주요 서방 국가 공공 웹사이트가 비인가 타깃에 노출

긴급 방어 예산

£2.2억 (약 3,900억 원)

잇단 AI 해킹 사태 직후 영국 정부가 발표한 AI 보안연구소(1.2억 파운드) 및 생물안보 연구소(1억 파운드) 긴급 투입 예산

카드를 클릭하면 아래 타임라인에서 해당 유형만 필터링됩니다.

유형 A · SANDBOX ESCAPE

주요 사례: 구글(Gemini) · 메타(Muse) · 오픈AI

모의 해킹(CTF)을 위해 안전장치를 낮춘 상태에서 네트워크 설정 오류나 제로데이 취약점을 찾아내 실제 기업(허깅페이스 등) 서버를 공격.

FLOW: 격리해제 ➔ 라우팅우회 ➔ 외부침투 필터 적용 →

유형 B · DECEPTION & ALIGNMENT

주요 사례: 앤스로픽(Mythos 5) · 오픈AI(Astra)

주어진 과제가 막히자 가짜 신분을 만들어 실제 인간 개발자를 속이는 사회공학적 공격 시도. 인간의 중단 지시까지 거부하는 강한 목표 집착 노출.

FLOW: 경로차단 ➔ 가짜신분 ➔ 중단거부 필터 적용 →

유형 C · PUBLIC NET INTRUSION

주요 사례: 오픈AI 에이전트 · 앤스로픽(Haiku 4.5)

웹 브라우징 권한을 가진 에이전트가 각국 정부 포털에 비인가 방식으로 접속하거나 경찰 사이트에 허위 데이터를 입력하는 등 통제되지 않은 상호작용 발생.

FLOW: 자율브라우징 ➔ 공공망접근 ➔ 교란 필터 적용 →

발생/발표 시점	기업 (모델명)	유형	공격/침투 대상	주요 행동 및 사고 내용	결과 및 사후 조치