오픈AI·앤트로픽 AI 스스로 AI 개선…’자가진화’ 단계?

‘자동화된 AI 연구자’ 재귀적 자기개선(RSI) 단계 접근

인공지능(AI)은 이미 차세대 AI 개발의 상당 부분을 직접 수행하고 있다. 앤트로픽은 클로드가 모델 연구개발 업무의 26%를 주도한다고 밝혔고, 오픈AI는 자동화된 ‘연구 인턴’ 개발 목표를 달성했다고 발표했다. 그러나 두 회사 모두 인간의 목표 설정과 감독 없이 다음 세대 모델을 독립적으로 만드는 완전한 재귀적 자기개선(RSI)에는 아직 도달하지 못했다고 선을 그었다.

재귀적 자기개선(RSI)이란 무엇인가

재귀적 자기개선(Recursive Self-Improvement, RSI)은 AI가 자신의 성능을 높이는 데서 나아가 다음 세대 AI를 설계·개발하고, 새로 만들어진 AI가 다시 후속 모델을 개선하는 순환 구조를 뜻한다.

한동안 RSI는 먼 미래의 가설로 여겨졌다. 그러나 AI가 연구개발에서 차지하는 비중이 빠르게 커지면서 전문가들은 이 시나리오가 이제 실제 기술개발의 문제로 옮겨오고 있다고 진단한다. 오픈AI와 앤트로픽이 AI 에이전트가 코드 작성, 실험, 평가 같은 연구개발 업무를 수행하는 사례를 잇달아 공개한 것도 이 흐름과 맞닿아 있다.

앤트로픽: 클로드가 연구개발 업무의 26%를 주도

앤트로픽은 9월 17일 공개한 자료에서 클로드(Claude)가 모델 연구개발 업무의 26%를 ‘주도(lead)’하고 있다고 밝혔다. 여기서 주도란 인간이 제시한 높은 수준의 지시를 바탕으로 하나의 업무를 처음부터 끝까지 수행한 비중을 말한다. 로이터에 따르면 이 비중은 3월 1%에서 8월 26%로 뛰었다. 다만 앤트로픽은 이 작업 역시 인간의 감독 아래 이뤄진다고 명시했다.

협업 범위까지 넓히면 비중은 더 커진다. 8월 기준 전체 연구개발 업무의 90% 이상이 클로드와의 협업으로 수행됐고, 상당수는 인간이 구체적 방법 대신 목표만 제시하면 클로드가 코드 작성과 실험 실행을 맡는 방식이었다. 반면 연구의 방향을 잡고 어떤 문제를 풀지 정하는 판단에서는 인간과 AI 사이에 여전히 차이가 있다는 것이 앤트로픽의 평가다.

수치로 본 AI 연구개발 능력

앤트로픽은 내부적으로 AI 능력 향상을 구체적인 수치로 제시했다.

• 코드 작성: 2026년 5월 기준 앤트로픽 코드베이스에 병합된 코드의 80% 이상을 클로드가 작성했다.
• 생산성: 2026년 2분기 엔지니어 1명이 하루 동안 병합한 코드량은 2024년 대비 약 8배 늘었다. 다만 앤트로픽은 코드량이 곧 품질은 아니라고 못 박았다.
• 실험 수행 능력: 소규모 AI 학습 코드를 같은 정확도로 더 빠르게 실행하도록 하는 과제에서, 2025년 5월 클로드 오퍼스4의 평균 개선폭은 약 3배였다. 2026년 4월 내부 모델은 약 52배의 속도 향상을 달성했다. 이는 실제 대규모 모델 학습이 52배 빨라졌다는 뜻이 아니라, 실험용 코드 최적화 과제에서 나온 결과다.
• 연구 제안 능력: AI 안전 분야의 개방형 문제를 맡은 AI 에이전트는 가설 수립, 실험, 결과 공유, 반복 작업을 수행했다. 약 800시간의 누적 작업과 약 1만 8,000달러의 컴퓨팅 비용으로, 두 명의 인간 연구자가 약 일주일 동안 낸 결과와 비교해 평가 기준상 상당한 성과를 냈다. 다만 연구문제와 평가 기준은 인간이 정했다는 한계가 있다.

앤트로픽은 현재 단계와 완전한 RSI를 분명히 구분한다. 회사는 아직 완전한 재귀적 자기개선에 도달하지 않았다고 밝히면서도, 충분한 컴퓨팅 자원과 기술 발전이 이어지면 AI가 후속 모델을 직접 설계·개발하는 단계로 이어질 가능성이 있다고 봤다.

오픈AI: ‘연구 인턴’ 달성, 2028년 자동화 연구자 목표

오픈AI도 AI 연구개발 자동화를 별도의 개발 목표로 삼았다. 9월 6일 공개한 연구에서 오픈AI는 인간 연구자의 지시를 받아 숙련된 연구자가 며칠 걸릴 업무를 수행하는 자동화 ‘연구 인턴(research intern)’ 개발 목표를 달성했다고 밝혔다. 이어 2028년 3월까지 더 자율적인 자동화 AI 연구자를 개발하겠다는 계획도 제시했다.

내부 사용량도 눈에 띈다. 2026년 8월 중순 오픈AI 연구조직의 AI 에이전트 사용량은 인간 연구자의 하루 노동량(8시간 기준)당 3.1 에이전트 노동일에 해당했다. 연구자들은 여러 에이전트를 동시에 운용하며 코드 작성, 실험, 연구 인프라 문제 해결에 활용하고 있다.

그럼에도 오픈AI는 인간의 역할이 여전히 핵심이라고 강조했다. 연구 우선순위를 정하고, 어떤 아이디어와 결과를 추구할지 판단하며, 시스템을 확대할지 중단할지 결정하는 일은 인간 연구자의 몫이다. 또 AI 연구에는 여러 병목이 있어서 특정 지표가 늘었다고 전체 AI 개발 속도가 같은 비율로 빨라지는 것은 아니라고 설명했다.

샘 올트먼과 일론 머스크의 시각

샘 올트먼 오픈AI 최고경영자(CEO)는 RSI를 하나의 기술적 사건으로 정의하기 어렵다는 입장이다. 그는 완전 자동화뿐 아니라 모델이 다음 모델의 학습 데이터를 만들거나 연구자·엔지니어의 작업을 가속하는 경우까지 넓은 의미의 RSI로 볼 수 있다고 설명했다. 동시에 최근 언론 인터뷰에서 “사람들은 항상 미래를 통제할 필요가 있다”며 인간의 통제를 벗어나는 형태의 RSI는 추진해서는 안 된다고 말했다.

일론 머스크가 이끄는 xAI는 더 짧은 시간표를 내놨다. 머스크는 지난 3월 Grok 개발과 관련해 인간이 점점 루프에서 빠지고 있으며 모든 모델을 직전 모델이 만든다고 말했다. 그러면서도 당시 완전한 자동화는 이뤄지지 않았다au, 목표 시점을 2026년 말 또는 늦어도 2027년으로 제시했다. 단 이는 xAI 전망일 뿐 독립적으로 검증된 일정은 아니다.

논쟁의 핵심은 ‘코드 작성’이 아니라 ‘연구 판단’

지금 업계 쟁점은 AI가 코드를 쓸 수 있느냐가 아니다. 코드 작성, 디버깅, 실험 자동화는 이미 여러 AI 기업의 실제 연구개발 과정에서 쓰이고 있다. 진짜 질문은 AI가 인간이 정한 목표를 수행하는 수준을 넘어, 어떤 연구문제를 풀지 스스로 정하고, 새로운 모델 구조와 학습 방법을 고안하고, 그 결과로 다음 세대 AI를 만들 수 있느냐다. 앤트로픽 역시 현재 AI와 완전한 자기개선 사이의 가장 큰 격차로 연구 목표와 방향을 스스로 결정하는 판단력을 꼽았다.

자동화가 확대되면 AI 개발 속도가 빨라질 가능성은 있다. 인간 연구자는 동시에 수행할 수 있는 과제와 시간에 한계가 있지만 AI 에이전트는 여러 작업을 병렬로 실행할 수 있기 때문이다. 오픈AI에서 이미 인간의 하루 노동량을 웃도는 에이전트 작업이 발생하고 있다는 데이터가 이를 보여준다. 다만 컴퓨팅 자원, 데이터, 실험 인프라, 검증 과정이라는 병목이 남아 있어서 에이전트 사용량의 증가가 곧바로 AI 능력의 같은 속도 증가로 이어진다고 단정할 수는 없다.

안전과 통제: 인간은 연구자에서 감독자로

AI의 자기개선이 현실이 되면 안전 문제의 성격도 달라진다. 지금은 인간 연구자가 모델의 변경 사항을 검토할 수 있지만, AI가 연구 과정을 주도하는 비중이 커질수록 모든 의사결정을 사람이 직접 확인하기 어려워질 수 있다. 앤트로픽은 완전한 RSI가 현실화하면 AI를 보호하고, 모니터링하고, 행동을 형성하는 방식이 훨씬 더 중요해진다고 밝혔다. 이 과정에서 인간은 연구자라기보다 감독자이자 검증자에 가까워질 가능성이 있다.

오픈AI는 공식 연구자료에서 정렬(alignment)과 안전 분야의 발전이 AI 능력의 향상 속도와 보조를 맞출 것이라고 가정할 수 없다고 경고했다. 그러면서도 자동화된 AI 연구자를 AI 안전과 정렬 연구에 활용할 수 있다는 점을 연구 자동화의 이유 가운데 하나로 들었다.

평가 기관 METR는 2026년 프런티어 AI 개발사 내부 에이전트에 대한 위험 평가에서, 당시 시스템들이 제한적 형태의 ‘로그 배포(rogue deployment)’를 수행할 능력·동기·기회를 가졌을 가능성을 제시했다. 다만 높은 수준의 견고성을 확보할 능력까지 갖췄다고 보지는 않았다. 이 결과가 완전한 RSI의 증거는 아니다. 그러나 AI 에이전트가 단순한 질의응답 시스템에서 실제 컴퓨팅 환경에서 오래 행동하는 소프트웨어 주체로 옮겨가고 있음을 보여준다.

‘자가진화’로 규정하기엔 이르지만, 방향은 분명하다

2026년 현재 확인되는 사실은 AI가 이미 자기개선 단계에 들어섰다는 것이 아니라, AI가 AI 개발의 상당 부분을 수행하기 시작했다는 것이다. 클로드는 앤트로픽 연구개발 업무의 26%를 주도하지만 인간의 감독을 받고, 오픈AI의 연구 인턴 역시 인간이 방향을 정하는 구조다. 따라서 현재 상황을 ‘AI의 자가진화’로 부르는 것은 과도하다.

그렇지만 연구 자동화가 계속 확대되면 다음 세대 AI를 만드는 과정에서 인간의 역할이 줄어들 수 있다는 시나리오는 주요 AI 연구기관이 공개적으로 검토하는 주제다. 앞으로의 AI 경쟁에서는 모델 벤치마크 점수보다, AI가 연구개발 업무를 얼마나 독립적으로 수행하는지와 인간이 어디까지 통제·검증을 유지할 수 있는지가 핵심 지표로 떠오를 가능성이 있다.