제미나이 4 카본, 두 주 만에 ‘아르곤’ 후속 발표…취약점 찾는 AI 방어자에게 먼저

구글이 자사가 “사이버보안과 장기 과제 수행에서 최고 수준”이라고 부르는 모델 ‘제미나이 4 카본(Gemini 4 Carbon)’을 10월 28일(UTC 기준) 공개했다. 전 모델 ‘제미나이 4 아르곤’이 나온 지 두 주 만이다. 다만 일반 이용자나 개발자가 아니라 일부 사이버 방어 담당자에게 먼저 푸는 단계적 배포를 택했다.

무엇이 공개됐나

구글 블로그에 따르면 카본은 여러 단계에 걸친 긴 엔지니어링 작업을 겨냥한 모델이다. 접근은 일부 사이버 방어 담당자(cyber defenders)부터 시작해 ‘페어윈드 프로그램(Fairwind Program)’을 통해 신뢰 파트너로 점차 넓힌다. 구글은 의견을 모으고 안전장치(guardrail, 모델의 오·남용을 막는 제한 장치)를 다듬은 뒤 개발자·기업·소비자에게 “가능한 한 빨리” 내놓겠다고 밝혔다.

구글은 인공지능 평가기관 아티피셜 애널리시스(Artificial Analysis)의 지능 지수 v5.0에서 카본이 59점으로 1위라고 밝혔다. 웹 개발 평가 ‘웹데브 아레나(WebDev Arena)’에서는 1768 Elo로 4위이며 점수는 89점 올랐다고 했다. 내부 시험에서는 보안 코드 작성 성공률이 아르곤의 2배 넘게 올랐다고 설명했다.

취약점을 찾고, 뚫고, 고치는 숫자

사이버 능력은 세 갈래 수치로 제시됐다. 취약점을 찾는 SEC-bench Pro는 88.2%, 실제로 공격 코드를 만드는 ExploitGym은 54.8%, 취약점을 고치는 CWE-bench는 71.0%다. 이 외부 벤치마크는 안전장치를 끈 상태에서 평가했다고 구글은 밝혔다.

안전성 지표도 함께 내놓았다. 외부 평가기관 그레이 스완(Gray Swan)의 간접 프롬프트 주입(IPI, 웹페이지·문서에 숨긴 지시로 AI를 속이는 공격) 벤치마크에서 공격 성공률은 0.0%로, 아르곤의 0.7%보다 낮았다. 코딩 에이전트 평가 터미널벤치 4.0(Terminal-Bench 4.0)에서는 시험을 속여 통과하는 사례가 0.0%, 속이려는 시도가 0.4%로 줄었고, 내부 실사용 코딩 시험에서 심각도 높은 정렬 이상 경보가 거의 80% 줄었다고 구글은 전했다.

접근 통제: 방어자 먼저

이번 발표에서 눈에 띄는 대목은 성능 수치보다 배포 방식이다. 구글은 공격 능력을 평가하는 지표에서 높은 점수를 받은 모델을 일부 사이버 방어 담당자에게만 먼저 열어 “의도적인 배포 방식”을 택했다고 설명했다. 구글은 미국 정부의 자발적 사전 출시 모델 시험 절차에도 참여했다고 밝혔다.

가격과 남은 질문

도입 가격은 100만 토큰당 입력 2달러, 출력 10달러이고 캐시된 입력은 95% 할인된다. 도입 기간이 끝나면 입력 4달러, 출력 20달러로 오른다. 수치는 모두 구글이 직접 밝힌 것으로, 독립 기관이 같은 조건에서 재현한 결과는 아직 원문에서 확인되지 않는다. 안전장치 없이 측정한 점수가 실제 배포 때 어떻게 달라지는지, 방어자 접근이 일반 공개로 넓어지는 시점과 조건이 무엇인지도 공개되지 않았다.

수치를 읽을 때는 항목마다 무엇을 재는지 구분해야 한다. SEC-bench Pro 88.2%는 취약점을 찾는 능력, ExploitGym 54.8%는 찾은 취약점을 실제로 악용하는 능력, CWE-bench 71.0%는 고치는 능력을 각각 잰 값이어서 서로 직접 비교하기는 어렵다. 지능 지수 1위라는 순위도 구글이 제시한 시점의 결과이며, 확인한 범위에서 비교 대상 모델의 점수는 나와 있지 않다. 따라서 이 수치만으로 다른 회사 모델과의 우열을 단정하기는 이르다.

왜 중요한가

취약점을 찾고 악용하고 고치는 능력이 한 모델에 함께 올라가면, 같은 도구가 방어에도 공격에도 쓰일 수 있다. 구글이 접근을 방어자부터 단계적으로 넓히는 방식을 앞세운 것은 이 이중 용도 문제를 배포 설계로 다루겠다는 신호로 읽힌다. 이는 기사 작성자의 해석이며, 구글이 어떤 기준으로 대상을 고르는지는 원문에 나와 있지 않다. 앞서 사이언스모니터가 다룬 제미나이 4 아르곤과 비교하면 경쟁의 축이 ‘추론 성능’에서 ‘사이버 능력과 통제된 접근’으로 옮겨가는 모습도 보인다.

원문: Google 블로그

관련 기사

• 구글, 추론 특화 ‘제미나이 4 아르곤’ 공개…GPT-6 Astra와 프런티어 AI 경쟁
• 통제 벗어난 자율형 AI 에이전트 해킹 위협에 각국 정부 ‘비상’