OpenAI, AI로 AI 추론 칩 설계…할라페뇨 9개월 만에 테이프아웃

OpenAI·Broadcom 공동 개발한 Jalapeño…AI가 반도체 설계 속도 자체를 끌어올렸다

OpenAI가 인공지능을 이용해 인공지능 반도체를 설계하는 단계로 진입했다.

OpenAI CFO 사라 프라이어는 9일 골드만삭스 행사에서 OpenAI가 자체 AI 모델을 Jalapeño(할라페뇨) 칩 개발에 활용, 설계 시작부터 제조를 위한 ​테이프아웃(tape-out)까지 약 9개월 만에 완료했다고 밝혔다. 이는 OpenAI가 AI를 칩 설계에 직접 적용한 사례로 알려졌다.

Jalapeño는 OpenAI와 Broadcom이 공동 개발한 맞춤형 AI 추론 가속기다. OpenAI가 2026년 6월 공개한 자료에 따르면 이 칩은 대규모언어모델(LLM) 추론을 대상으로 설계됐으며 연산뿐 아니라 메모리 이동과 네트워크, 실제 AI 서비스 패턴까지 하드웨어 구조에 반영했다.

핵심은 ‘AI가 칩을 설계했다’가 아니다

Jalapeño의 가장 중요한 의미는 AI가 반도체 설계 엔지니어를 대체했다는 데 있지 않다. 핵심은 반도체 설계 과정의 일부를 AI가 자동화·가속하면서 설계 주기를 줄였다는 것이다.

고성능 AI 가속기는 아키텍처 결정부터 RTL 작성, 검증, 합성, 배치·배선, 타이밍 분석, 물리적 검증을 거쳐야 한다. 어느 한 단계에서 오류가 발생해도 다시 설계하고 검증해야 한다.

OpenAI는 자체 AI 모델을 이 과정에 활용했다. 로이터에 따르면 OpenAI는 약 9개월 만에 칩 설계를 마치고 대만 TSMC의 제조 단계로 넘겼다.

다만 이 기간 전체를 AI가 독립적으로 수행했다는 의미는 아니다. Jalapeño는 OpenAI의 하드웨어 조직과 Broadcom의 반도체 설계 역량, 기존 EDA 도구와 제조 생태계가 결합된 결과다.

따라서 정확한 표현은 ‘AI가 설계한 칩’보다 ‘AI를 설계 과정에 적극적으로 투입해 개발 기간을 단축한 칩’​에 가깝다.

Jalapeño는 GPU를 대체하기 위한 칩이 아니다

Jalapeño의 목적도 중요하다. 이 칩은 범용 GPU가 아니라 LLM 추론에 특화된 커스텀 ASIC이다.

OpenAI는 6월 공개 당시 Jalapeño를 자사의 미래 LLM 추론 환경에 맞춘 ‘Intelligence Processor’로 설명했다. 연구진은 AI 모델에서 실제로 많이 사용되는 커널과 메모리 이동, 네트워크 통신, 모델 서빙 패턴을 분석해 하드웨어를 설계했다고 밝혔다.

이는 AI 반도체 산업의 변화와 맞물린다.

초기 생성형 AI 시장에서는 엔비디아 GPU처럼 다양한 모델을 처리할 수 있는 범용 가속기가 중요했다. 그러나 AI 서비스 규모가 커지면서 특정 모델과 추론 패턴에 맞춘 커스텀 AI ASIC의 경제성도 커지고 있다.

최근 Broadcom의 AI 반도체 사업에서도 이 같은 변화가 확인된다. 브로드컴은 2026년 3분기 AI 반도체 매출 167억달러 가운데 약 73%가 커스텀 칩에서 발생했다고 밝혔다.

OpenAI의 자체 칩 전략 역시 이 흐름에 속한다.

성능보다 중요한 것은 ‘추론 비용’이다

OpenAI가 공개한 8월 테스트 결과에서는 Jalapeño의 전력 대비 AI 처리량과 지연시간에서 상당한 개선이 보고됐다.

OpenAI에 따르면 공개 벤치마크인 InferenceX에서 Jalapeño는 비교 대상 시스템보다 최대 처리량 기준 와트당 AI 작업량이 1.5~1.9배 높았고, 엔드투엔드 지연시간은 1.7~3.6배 낮았다. 대화형 작업에서는 2.1~4.1배 높은 성능을 기록했다고 OpenAI는 밝혔다.

다만 이 수치는 OpenAI가 공개한 자체 비교 결과다.

특정 벤치마크와 모델, 전력 조건에서 나온 결과를 데이터센터 전체의 총소유비용(TCO)이나 엔비디아 GPU의 일반적인 우위가 사라졌다는 의미로 확대해서는 안 된다.

AI 추론 비용은 칩 성능뿐 아니라 메모리, 네트워크, 냉각, 전력공급, 소프트웨어 최적화와 서버 운영비까지 포함하기 때문이다.

AI가 반도체 설계 자체를 바꾸기 시작했다

더 큰 변화는 Jalapeño의 성능보다 AI가 반도체를 만드는 과정에 들어왔다는 사실이다. 2026년 반도체 연구에서도 AI를 이용해 칩 설계 자동화 수준을 높이려는 연구가 빠르게 증가하고 있다.

최근 연구들은 생성형 AI와 에이전트가 RTL 생성, 설계공간 탐색(design space exploration), 배치·배선, 검증 등을 지원하는 방향으로 발전하고 있다고 분석한다. 특히 올해 발표된 The Dawn of Agentic EDA 연구는 생성형 AI가 기존의 도구 중심 EDA에서 보다 자율적인 설계 워크플로로 이동하고 있지만, ​신뢰성, 독점적인 설계 데이터, 검증 문제가 여전히 핵심 장벽이라고 지적한다.

LLM용 AI 가속기를 자동 생성하려는 연구도 진행되고 있다.

2026년 8월 공개된 FSGen 연구는 LLM의 attention 연산을 위한 하드웨어 설계 공간을 자동 탐색하고 성능·전력·면적(PPA)을 조기에 예측하는 방법을 제안했다. 연구진은 기존 방법과 비교해 특정 조건에서 전력 효율과 성능을 크게 개선할 수 있다고 보고했다.

최근에는 AI가 만든 하드웨어를 실제 실리콘에 구현하고 검증하는 단계까지 연구 범위가 확대되고 있다. 2026년 9월 공개된 연구에서는 AI 에이전트가 암호화 가속기의 RTL부터 FPGA 구현과 검증까지 수행한 사례가 보고됐다. 동시에 연구진은 합성과 실제 하드웨어 연결 단계에서 실패율이 높아지는 문제도 확인했다.

이는 현재 AI 반도체 설계의 현실을 보여준다. AI는 설계자를 대체하는 완성된 자동 설계자가 아니라 설계공간을 탐색하고 반복 작업을 줄이는 강력한 엔지니어링 도구에 가깝다.

9개월이라는 숫자가 중요한 이유

Jalapeño에서 가장 주목해야 할 숫자는 1.5배나 3.6배가 아니라 9개월이다.

AI 모델의 발전 속도는 반도체 개발 주기보다 훨씬 빠르다. 새로운 AI 모델이 수개월 단위로 등장하는 상황에서 칩 설계가 수년씩 걸린다면 특정 모델의 최적화 효과가 상용화 시점에 이미 사라질 수 있다.

AI가 설계·검증·최적화 작업을 가속할 수 있다면 반도체 개발 주기를 AI 모델의 발전 속도에 맞추는 것이 가능해진다.

이는 단순한 생산성 문제가 아니다. AI 모델이 칩을 요구하고, AI가 그 칩의 설계를 지원하며, 새 칩이 다시 더 많은 AI 연산을 가능하게 하는 순환 구조​가 만들어질 수 있다. OpenAI가 칩 설계에 직접 들어간 이유도 여기에 있다.

OpenAI의 경쟁자는 엔비디아만이 아니다

OpenAI의 자체 칩 전략을 엔비디아와의 경쟁으로만 보는 것도 충분하지 않다. AI 기업들은 이제 모델과 클라우드뿐 아니라 컴퓨팅 인프라 전체를 통제하는 방향으로 움직이고 있다.

Anthropic도 자체 AI 하드웨어 역량 강화를 추진하고 있다. 로이터에 따르면 Anthropic은 2026년 8월 AI 칩 스타트업 MatX 인수를 약 70억달러 규모로 논의했으며, 협상은 인수 대신 다른 형태의 협력 가능성으로 이동한 것으로 전해졌다.

이는 AI 모델 기업들이 외부 GPU 공급망에만 의존하는 구조에서 벗어나려는 움직임으로 볼 수 있다.

OpenAI는 Jalapeño를 통해 추론용 하드웨어를 직접 최적화했고, Anthropic은 자체 칩 개발 역량을 강화하고 있다. 클라우드 기업들은 자체 ASIC을 개발하고 있다.

AI 산업의 경쟁축이 모델 → 데이터 → GPU에서 모델 → 소프트웨어 → 칩 → 데이터센터로 확대되고 있는 것이다.

다음 경쟁은 ‘AI가 AI 칩을 얼마나 빨리 만드는가’

Jalapeño의 진짜 의미는 OpenAI가 엔비디아 GPU를 대체할 새로운 칩을 만들었다는 데 있지 않다. 더 중요한 변화는 AI가 AI 반도체 개발의 생산성 자체를 높이기 시작했다는 점이다.

반도체 설계에서 가장 비싼 자원 중 하나는 엔지니어의 시간이다. 설계 변경과 검증, 최적화가 반복될수록 개발 기간과 비용이 증가한다.

AI가 이 반복을 줄이면 칩 개발 속도는 빨라질 수 있다. 하지만 물리적 한계는 남는다. AI가 RTL을 생성하더라도 실제 칩은 제조공정의 규칙을 따라야 한다. 설계 오류는 실리콘에서 바로 비용으로 이어진다. 따라서 AI 기반 설계의 핵심 경쟁력은 생성 능력보다 검증 능력이 될 가능성이 높다.

Jalapeño는 이 전환의 초기 사례다.

앞으로 AI 반도체 시장에서는 누가 가장 큰 GPU를 만드는가뿐 아니라 누가 AI를 이용해 가장 빠르고 정확하게 새로운 칩을 설계하고 검증하는가가 새로운 경쟁 기준이 될 수 있다.

AI가 소프트웨어를 만드는 시대를 넘어 AI가 AI를 실행할 하드웨어의 설계 과정까지 가속하는 시대가 시작되고 있다.