GPT-6 아스트라, 나비에-스토크스 문제 포함 10개 난제 AI 증명

90년 미해결 나비에-스토크스 문제에 AI 증명 제시…8월에는 수학·이론컴퓨터과학 10개 난제에서도 새 결과

오픈AI(OpenAI)가 새 AI 모델 GPT-6 Astra를 활용해 나비에-스토크스(Navier–Stokes) 문제를 증명했다. OpenAI는 약 90년 동안 해결되지 않은 이 문제에 대해 유한 시간 안에 특이점이 발생할 수 있다는 해법을 제시하고, Lean 형식 증명을 공개했다.

각 결과는 AI가 초안을 만들고, 인간 연구자가 원고를 정리한 뒤 Lean으로 형식화된 증명을 완성하는 절차를 거쳤다. 수학계의 독립적인 검증과 공식적인 문제 해결 인정은 별도의 과정이다.

GPT-6 Astra, 수학 벤치마크를 넘어 연구 단계로

OpenAI가 9월 3일 공개한 GPT-6 Astra는 컴퓨터 사용, 코딩, 과학 연구, 사이버보안 및 전문 업무를 통합한 차세대 모델로 소개됐다. 수학에서는 FrontierMath Tier 4에서 98%를 기록했다. ARC-AGI-3에서는 99.9%, ExploitBench에서는 100%를 기록했다고 OpenAI는 밝혔다.

OpenAI가 8월 1일 공개한 연구 결과에서는 내부 Astra 버전이 수학과 이론컴퓨터과학의 장기 미해결 문제 10개에서 새로운 결과를 만들어냈다고 밝혔다. 이 결과들은 고차원 기하학, 부호 이론, 군론, 연산자 대수, 양자 복잡도, 격자 암호, 극값 조합론 등 여러 분야에 걸쳐 있다.

이는 AI 수학의 성격이 바뀌고 있음을 보여준다. 기존 AI 수학의 핵심 질문은 ‘주어진 문제를 얼마나 정확하게 풀 수 있는가’였다. 이제는 ‘아직 풀리지 않은 문제에서 새로운 아이디어를 만들어낼 수 있는가’가 중요한 평가 기준이 되고 있다.

10개의 난제에서 확인된 새로운 패턴

OpenAI가 공개한 10개 결과 가운데는 고차원 구면 포장, 부호 이론, 산술 회로 복잡도, 비소픽 군, 폰 노이만 대수, 양자 계산 복잡도, 격자 암호, 극값 조합론 등의 문제가 포함됐다.

8월 발표된 10개 성과 중 일부를 보면 이 변화가 뚜렷하다.

• 고차원 구면 포장: Cohn–Elkies 한계에 접근하는 새로운 상계 제시
• 비소픽 군: 존재성 입증
• 콘느의 강직성 추측(Connes’ Rigidity Conjecture): 반례로 부정
• 산술 회로 복잡도: 영구행렬(permanent) 계산 회로·공식의 새로운 하한 제시
• 극값 조합론: 다색 Ramsey 수의 초지수적 하한 제시 → Erdős 문제 183 해결로 이어짐 (Erdős 문제 146·180도 진전)

특정 문제 하나의 해결 여부보다 서로 다른 수학 분야에서 AI가 반복적으로 새로운 결과를 만들어냈다는 사실 자체가 핵심이다.

일부는 기존 문제에 대한 상당한 진전이고, 일부는 특정 추측의 반례 또는 새로운 경계를 제시한 결과다. OpenAI는 여러 결과가 각각의 수학 분야에서 장기간 관심을 받아온 문제라고 설명했다.

중요한 점은 이 연구가 하나의 수학 분야에 국한되지 않았다는 것이다.

AI가 특정 유형의 수학 문제를 학습해 반복적으로 답을 내놓는 수준이라면 기존의 전문화된 수학 소프트웨어와 크게 다르지 않다. 반면 서로 다른 수학 분야에서 새로운 결과가 나온다면 AI가 추상적인 수학적 구조를 탐색하는 능력을 확보하고 있을 가능성을 생각할 수 있다.

아직 이를 인간 수학자의 ‘창의성’과 동일하게 볼 수는 없다. 그러나 연구 생산 과정의 일부가 AI로 이동하고 있다는 사실은 분명해지고 있다.

나비에-스토크스, 한 단계 더 복잡해졌다

나비에-스토크스 문제는 이 변화의 규모를 보여주는 대표적인 사례다.

나비에-스토크스 방정식은 공기와 물 같은 유체의 움직임을 기술하는 기본적인 편미분방정식이다. 문제는 3차원 비압축성 유체에서 매끄러운 초기 조건이 주어졌을 때 해가 영원히 매끄럽게 유지되는지, 아니면 유한한 시간 안에 특이점이 발생할 수 있는지를 증명하는 것이다.

OpenAI가 공개한 결과는 후자의 가능성을 제시한다. 즉 특정한 유체 흐름에서 유한 시간 안에 특이점이 발생할 수 있다는 것을 보이는 방향이다. OpenAI는 논문과 함께 Lean으로 형식화한 증명을 공개했다.

클레이 수학연구소가 선정한 밀레니엄상 문제 가운데 하나이며 해결에는 100만 달러의 상금이 걸려 있다.

나비에-스토크스 프로젝트

• 약 1만 개의 에이전트가 동시에 문제 탐색
• 각 에이전트 그룹에 서로 다른 변형·접근법 할당
• Codex로 그룹별 결과를 통합·재탐색
• 최종 해법 도출까지 88시간
• GPT-6 Astra가 이후 17시간 동안 Lean 형식화·검증 수행
• 나비에-스토크스 문제에만 270만 건의 에이전트 메시지, 약 1,300억 개의 출력 토큰 사용
• 전체 프로젝트 기준 약 490만 건 메시지, 3,000억 개 출력 토큰

여기에서 중요한 기술적 차이가 있다. 이번 결과를 만든 시스템은 GPT-6 Astra 자체가 아니다. OpenAI는 나비에-스토크스 문제를 해결하는 데 사용한 내부 모델이 GPT-6 Astra보다 훨씬 강력한 시스템이라고 명시했다.

따라서 ‘GPT-6 Astra가 나비에-스토크스 문제를 풀었다’는 표현은 정확하지 않다. 보다 정확한 표현은 ‘OpenAI가 GPT-6 Astra를 포함한 차세대 AI 연구 시스템의 발전을 바탕으로 나비에-스토크스 문제에 대한 AI 생성 증명을 공개했다’정도다. 이 차이는 AI의 실제 연구 능력을 평가할 때 중요하다.

핵심은 모델 하나가 아니라 AI 연구 시스템

이번 사건에서 가장 주목해야 할 부분은 모델의 크기나 단일 벤치마크 점수가 아니다.

OpenAI가 9월 6일 공개한 연구 가속화 자료에서도 코딩 에이전트가 AI 연구 과정 자체를 변화시키고 있다고 설명했다. AI가 문제를 하나씩 풀어가는 방식에서 벗어나 여러 에이전트가 서로 다른 가설을 동시에 탐색하는 방식으로 바뀌고 있다는 의미다.

이 구조에서는 하나의 모델이 모든 작업을 수행할 필요가 없다. 한 에이전트는 문제를 분석하고, 다른 에이전트는 새로운 접근법을 찾고, 또 다른 시스템은 코드를 작성하거나 계산을 수행한다. 이후 결과를 통합하고 정리 증명 시스템을 통해 논리적 오류를 확인한다.

수학 연구에서 가장 많은 시간이 걸리는 과정 가운데 하나가 새로운 접근법을 시도하고 실패하는 과정이라는 점을 고려하면, 이러한 병렬 탐색은 연구 속도를 크게 높일 가능성이 있다.

AI의 경쟁력도 ‘천재적인 답 하나를 내는 능력’보다 수많은 가설을 빠르게 생성하고 검증하면서 탐색 공간을 줄이는 능력으로 이동할 수 있다.

Lean은 AI 수학의 신뢰 장치가 될 수 있나

이번 발표에서 또 하나 주목해야 할 것은 Lean이다. 대규모 언어모델이 만들어낸 수학적 설명은 사람이 읽기에 그럴듯하더라도 논리적 오류가 포함될 수 있다. 복잡한 수학적 증명에서는 이러한 오류를 사람이 모두 찾아내기도 어렵다.

Lean과 같은 형식 증명 시스템은 수학적 명제와 논리적 추론을 컴퓨터가 검증할 수 있는 형태로 표현한다. OpenAI가 나비에-스토크스 결과와 함께 Lean 형식 증명을 공개한 이유도 여기에 있다.

그러나 Lean 검증과 독립적인 수학적 검증은 동일하지 않다. Lean은 형식화된 논리 체계 안에서 증명이 성립하는지를 확인한다. 반면 수학자들은 그 증명이 실제 문제의 요구조건을 충족하는지, 기존 연구와 어떤 관계가 있는지, 증명의 핵심 아이디어가 새로운 것인지 등을 별도로 검토해야 한다.

실제로 폰 노이만 대수 문제에서 Astra가 8월에 다룬 *콘느의 강직성 추측(Connes’ Rigidity Conjecture) 증명에서 발생한 일이다.

따라서 AI가 형식 증명을 만들었다는 사실은 신뢰성을 크게 높이는 요소지만 그것만으로 학술적 논쟁이 끝나는 것은 아니다.

‘AI가 발견했다’는 말에도 새로운 기준 필요

AI 수학 연구가 확대되면서 저자권과 연구 우선권 문제도 중요해지고 있다. AI가 기존 논문에서 학습한 지식과 새로운 연구 아이디어를 어떤 방식으로 결합했는지 명확하게 구분하기 어렵기 때문이다.

특히 AI가 인간 연구자가 공개한 아이디어와 유사한 해법을 독립적으로 생성했다면 누가 최초 발견자인지 판단하는 문제도 복잡해진다. 따라서 앞으로 AI 연구에서는 단순히 결과물만 공개하는 방식으로는 부족할 가능성이 높다.

어떤 데이터와 도구를 사용했는지, 어떤 시점에 어떤 연구 결과를 생성했는지, 인간 연구자가 어떤 부분에 기여했는지, AI가 기존 연구를 어떻게 활용했는지에 대한 연구 기록이 중요해진다.

수학에서 AI의 능력이 높아질수록 결과의 정확성뿐 아니라 연구 과정의 재현성과 투명성이 새로운 평가 기준이 될 수 있다.

수치로 보는 변화: “증명 희소성”에서 “증명 과잉”으로

현재 공개된 결과만으로 AI가 인간 수학자를 대체했다고 보기는 어렵다. 수학자 테런스 타오(Terence Tao)는 2026년 국제수학자대회 관련 글에서 AI가 연구 수준 수학 작업을 수행할 가능성을 전제로 수학 연구의 목적·가치가 어떻게 달라질지 논의한 바 있다.

최근 분석에서도 변화 속도가 확인된다. 2026년 3월~8월 수학 분야 arXiv 논문 3만2944편을 조사한 연구에 따르면 AI 사용을 명시한 논문 3,575편, 그중 실질적 수학적 기여가 있었던 논문 1,712편, 실질적 AI 활용 비율: 2026년 3월 1.39%에서 8월 20일 14.09%로 나타났다.

아직 AI가 수학자를 대체했다는 의미는 아니다. 오히려 새로운 역할 분담이 나타나고 있다. 다만 이 경계 역시 빠르게 움직이고 있다.

AI는 탐색하고 인간은 문제를 선택한다. AI는 증명을 제안하고 인간은 의미를 평가한다. AI는 형식화하고 인간은 새로운 이론으로 확장한다.

AI 과학 연구의 다음 경쟁은 ‘모델 성능’이 아니다

GPT-6 Astra의 등장은 AI 경쟁의 기준이 다시 바뀌고 있음을 보여준다.

GPT-6 Astra는 단순한 대화 모델이 아니다. OpenAI는 이를 컴퓨터 사용, 코딩, 과학 연구, 브라우징, 전문 업무를 연결해 복잡한 작업을 처음부터 끝까지 수행하는 시스템으로 설명하고 있다. 수학 연구는 이 변화가 가장 명확하게 드러나는 영역이다.

8월에는 10개의 장기 미해결 문제에서 새로운 결과가 나왔다. 9월에는 약 90년 동안 풀리지 않았던 나비에-스토크스 문제에 대한 AI 생성 증명이 공개됐다. 두 사건을 연결하면 변화의 방향이 보인다. AI는 정답을 생성하는 도구에서 새로운 지식을 탐색하는 연구 시스템으로 이동하고 있다.

다만 나비에-스토크스 결과의 최종적인 수학적 평가는 아직 남아 있다. 따라서 지금 단계에서 가장 정확한 평가는 ‘AI가 수학자를 대체했다’가 아니다. AI가 인간 연구자가 접근하기 어려웠던 문제의 탐색 속도를 크게 높일 수 있는 단계에 진입했다는 것이다.

이 변화가 수학에만 머물 가능성은 낮다. 증명과 검증이 가능한 수학에서 시작된 AI 연구 시스템은 앞으로 물리학, 화학, 재료과학, 생명과학으로 확장될 수 있다.