기업가치 210억$ 에치드, AI 추론 특화 ‘트랜스포머 전용 ASIC’ 개발

에치드 7억$ 투자 유치 완료…벨류에이션 210억$, 한 달만에 2배 UP

인공지능(AI) 반도체 시장의 경쟁 축이 학습용 GPU에서 추론용 전용 칩으로 빠르게 이동하고 있다. 그 중심에 미국 AI 반도체 스타트업 에치드(Etched)가 등장했다.

에치드는 8월 18일 7억 달러 규모의 신규 투자를 유치하면서 기업가치를 210억 달러로 끌어올렸다고 밝혔다. 불과 한 달 전인 7월 23일 3억 달러 규모의 시리즈 C 투자 당시 인정받았던 103억 달러의 기업가치와 비교하면 한 달도 되지 않아 두 배 이상 상승한 것이다. 로이터는 이를 두고 에치드의 기업가치가 한 달도 안 돼 두 배 이상 뛰었다고 보도했다.

이번 투자 라운드는 퀀트 트레이딩 기업 제인 스트리트(Jane Street)가 주도했다. 세쿼이아 캐피털, 앤드리슨 호로위츠(a16z), 클라이너 퍼킨스, 타이거 글로벌, 베인 캐피털 벤처스, 블랙스톤 등 글로벌 투자자들이 참여하면서 에치드는 단순한 AI 칩 스타트업을 넘어 차세대 AI 인프라 기업으로 평가받기 시작했다.

에치드의 성장 속도는 특히 이례적이다. 지난해 12월 50억 달러 수준이었던 기업가치는 올해 7월 103억 달러로 상승했고, 다시 한 달도 안 돼 210억 달러까지 치솟았다. 테크크런치는 7월 당시 세쿼이아가 주도한 시리즈 C가 세쿼이아 역사상 가장 높은 기업가치로 평가된 시리즈 C 가운데 하나라고 전했다.

2022년 하버드대학교를 중퇴한 개빈 우베르티(Gavin Uberti), 크리스 주(Chris Zhu), 로버트 와첸(Robert Wachen)이 공동 창업한 에치드는 엔비디아(NVIDIA) GPU와 같이 AI 범용 칩 대신, LLM(대형언어모델)의 핵심 구조인 ‘트랜스포머(Transformer)’ 추론에만 특화된 ASIC(주문형 반도체) 칩인 ‘소후(Sohu)’를 개발하고 있다.

TSMC 4나노 공정으로 제작되는 소후 칩은 트랜스포머 어텐션(Attention) 연산을 실리콘에 직접 하드와이어링한 극강의 효율이 강점이다. 에치드에 따르면 8개의 소후 칩을 장착한 서버는 Llama 70B 모델 구동 시 초당 50만 개 이상의 토큰을 생성할 수 있다. 이는 동급 H100 GPU 8대 시스템(초당 약 2만 3천 개 토큰)을 압도적으로 상회하는 성능이다.

다만 H100은 현재 NVIDIA의 최신 AI 가속기가 아니다. NVIDIA는 Blackwell을 거쳐 2026년 차세대 Rubin 플랫폼으로 이동하고 있다. 따라서 Sohu의 50만 토큰/초라는 수치를 H100과 비교한 결과를 곧바로 ‘NVIDIA 최신 GPU보다 20배 빠르다’는 의미로 확대해서는 안 된다.

보다 중요한 것은 실제 고객 환경에서 토큰당 비용과 전력, 지연시간, 처리량을 얼마나 낮출 수 있느냐다.

‘투자자’가 된 첫 고객 제인 스트리트

이번 투자에서 가장 주목되는 대목은 제인 스트리트의 역할이다.

제인 스트리트는 에치드의 초기 고객 가운데 하나인 동시에 이번 대규모 투자 라운드를 주도한 투자자다. 로이터에 따르면 제인 스트리트는 이미 에치드의 기술을 실제로 배치하기 시작했다. 즉, 이번 투자는 아직 제품이 존재하지 않는 스타트업에 대한 단순한 기술 베팅이라기보다 실제 하드웨어를 접한 고객이 기술의 사업성을 평가한 뒤 자본까지 투입한 사례라는 점에서 의미가 있다.

에치드는 이미 10억 달러 이상의 고객 계약을 확보했다고 밝혔다. 지난 6월 비공개 개발 단계에서 공식적으로 모습을 드러낼 당시에도 10억 달러 이상의 고객 계약과 8억 달러의 누적 투자금을 공개한 바 있다.

월스트리트저널은 에치드가 약 400명의 직원을 보유하고 있으며 이 가운데 상당수가 엔비디아 출신이라는 점에도 주목했다. 이는 아직 신생 기업인 에치드가 AI 반도체 설계와 시스템 개발 분야에서 공격적으로 인재를 확보하고 있음을 보여준다.

GPU 버리고 ‘트랜스포머’ 올인

에치드의 전략은 엔비디아와 정반대다.

엔비디아 GPU는 다양한 AI 모델과 소프트웨어를 실행할 수 있는 범용 컴퓨팅 플랫폼을 지향한다. 반면 에치드는 대규모언어모델(LLM)의 핵심 구조인 트랜스포머(Transformer)에 계산 자원을 집중한다.

회사가 개발하는 ‘소후(Sohu)’는 트랜스포머 추론에 특화된 ASIC(주문형반도체)이다. 특정 AI 연산을 소프트웨어로 범용 GPU에 맡기는 대신, 반복적으로 수행되는 연산 구조를 하드웨어에 직접 구현함으로써 불필요한 범용 기능을 제거하고 성능과 전력 효율을 극대화하는 방식이다.

이것은 상당히 위험한 선택이기도 하다.

트랜스포머가 AI 시장의 지배적 아키텍처로 계속 남는다면 엄청난 효율을 확보할 수 있지만, 새로운 모델 구조가 시장을 장악하면 특화 ASIC의 장점은 오히려 약점으로 바뀐다. 에치드 역시 Sohu가 트랜스포머 이외의 모델 아키텍처에는 대응하지 못한다는 점을 사실상 전략적 전제로 삼고 있다.

에치드가 노리는 진짜 시장은 ‘AI 추론’

이 지점에서 에치드의 기업가치 급등을 단순한 반도체 스타트업 투자 열풍으로만 볼 수 없다.

생성형 AI가 확산되면서 AI 컴퓨팅의 무게중심은 모델을 만드는 학습(training)에서 사용자가 실제 서비스를 이용할 때 발생하는 추론(inference)으로 이동하고 있다. ChatGPT와 같은 AI 서비스에 사용자가 질문을 입력할 때마다 서버에서는 새로운 토큰을 생성해야 한다. 이용자가 늘어날수록 필요한 연산량과 전력, 메모리, 네트워크 비용도 함께 증가한다.

따라서 AI 인프라 시장의 경쟁 기준도 단순한 FLOPS에서 벗어나고 있다. 얼마나 많은 토큰을 얼마나 낮은 비용과 전력으로 생성할 수 있는지가 핵심 지표가 되고 있다. 로이터는 최근 AI 반도체 투자자들이 추론 시장에서 특히 토큰당 비용과 에너지 효율을 중요한 경쟁 요소로 보기 시작했다고 분석했다.

에치드가 바로 이 시장을 겨냥하고 있다.

Sohu·K NPU·NVIDIA…AI 추론 반도체 다른 길

에치드 급성장을 이해하기 위해서는 국내 NPU와 NVIDIA의 최신 아키텍처를 함께 볼 필요가 있다.

한국에서도 리벨리온, 딥엑스 등 비상장 AI 반도체 기업들이 데이터센터와 엣지 AI를 겨냥한 NPU를 개발하며 상용화를 확대하고 있다. K-NPU 경쟁력은 단순히 ‘국산’이라는 데 있지 않다. AI 추론에 필요한 연산을 GPU보다 효율적으로 처리하면서 전력소비와 서버 운영비를 낮추고, 동시에 LLM·멀티모달·컴퓨터비전 등 다양한 AI 모델을 지원하는 성능·전력·범용성의 균형을 목표로 한다.

특히 데이터센터에서는 칩 자체의 최고 성능보다 실제 서비스의 총소유비용(TCO)이 중요하다. 같은 AI 서비스를 운영할 때 필요한 서버 수와 전력, 냉각 비용을 얼마나 줄일 수 있느냐가 현실적인 경쟁력이다.

반면 에치드 Sohu는 이보다 훨씬 극단적인 길을 택했다. 트랜스포머라는 특정 아키텍처에 하드웨어를 집중시켜 다른 기능을 과감하게 버리는 대신 특정 LLM 추론에서 압도적인 처리량을 확보하겠다는 전략이다.

NVIDIA는 정반대의 방향에서 문제를 풀고 있다. 범용 GPU라는 기반을 유지하면서도 Transformer Engine, 저정밀 연산, HBM, NVLink, 네트워크 기술을 결합해 대규모 추론의 경제성을 높이는 방식이다.

NVIDIA의 최신 Rubin 플랫폼은 이러한 방향을 상징적으로 보여준다. NVIDIA에 따르면 Vera Rubin NVL72는 72개의 Rubin GPU를 NVLink 6으로 연결하고 HBM4를 사용해 대규모 에이전틱 AI와 추론 워크로드를 겨냥한다. NVIDIA는 특정 에이전틱 AI 워크로드에서 이전 세대 GB200 NVL72 대비 메가와트당 최대 10배 많은 토큰을 처리하고 100만 토큰당 비용을 10분의 1 수준으로 낮출 수 있다고 주장한다.

결국 세 기술은 서로 다른 답을 내놓고 있다.

비교 항목	Etched Sohu	K- NPU	NVIDIA Blackwell	NVIDIA Rubin
기본 전략	트랜스포머 전용 ASIC	AI 추론 특화 NPU	범용 AI GPU	차세대 범용 AI 플랫폼
핵심 목표	LLM 추론 극대화	전력·비용·추론 효율	학습+추론+범용성	대규모 추론·에이전틱 AI
특정 LLM 처리량	매우 공격적	제품·모델별 상이	매우 높음	최상위권
범용성	낮음	중~높음	매우 높음	매우 높음
전력효율	높음	핵심 경쟁력	높음	핵심 경쟁력
메모리	전용 설계	제품별 상이	HBM3e 계열	HBM4
소프트웨어	전용 최적화 구축	생태계 확대 중	CUDA 절대 우위	CUDA + Rubin 생태계
시스템 확장성	전용 설계	상대적으로 제한	NVLink/NVSwitch	NVLink 6
모델 변화 대응	상대적으로 취약	상대적으로 유연	매우 유연	매우 유연
실제 데이터센터 생태계	초기	국내 중심 확대	압도적	빠르게 확대
TCO 경쟁력	검증 필요	검증 필요	높음	토큰당 비용 절감 목표
가장 강한 영역	초고속 Transformer 추론	효율적인 AI 추론	범용 AI 컴퓨팅	대규모 에이전틱 AI

이 표에서 중요한 것은 단순한 ‘누가 가장 빠른가’가 아니다. Sohu가 특정 LLM에서 극단적인 처리량을 추구한다면 국산 NPU는 전력과 비용, 범용성을 앞세운다. NVIDIA는 이 두 가지를 모두 놓치지 않기 위해 GPU 자체의 성능뿐 아니라 메모리와 네트워크, 소프트웨어를 하나의 시스템으로 묶고 있다.

따라서 향후 AI 반도체 경쟁은 Sohu 대 NVIDIA의 단순한 1대1 대결이 아니라, 특화 ASIC·효율형 NPU·범용 GPU가 각각 다른 경제성을 놓고 경쟁하는 구조로 전개될 가능성이 높다.

엔비디아 제국 또 하나의 ‘특화 가속기’?

에치드의 부상은 엔비디아에 대한 정면 도전이라는 의미를 갖는다. 하지만 이것이 곧바로 엔비디아의 GPU 지배력이 무너진다는 뜻은 아니다.

엔비디아의 가장 강력한 경쟁력은 GPU 자체의 성능만이 아니다. CUDA를 중심으로 한 소프트웨어 생태계, 수많은 AI 프레임워크와 개발도구, 데이터센터용 네트워크와 메모리 기술, 그리고 수년간 축적된 개발자 기반이 결합돼 있다.

특히 Rubin으로 이어지는 NVIDIA의 전략은 ‘GPU를 더 빠르게 만드는 것’에서 ‘AI 데이터센터 전체의 추론 비용을 낮추는 것’으로 진화하고 있다. 이는 에치드가 겨냥하는 시장과 정확히 겹친다.

반면 에치드는 훨씬 좁은 영역에 집중한다. 바로 트랜스포머 기반 AI 추론이다. 이 전략은 성공할 경우 엄청난 경제성을 만들어낼 수 있다. 반대로 AI 모델의 구조가 예상보다 빠르게 변화하거나 고객들이 범용성과 유연성을 더 중시한다면 한계가 명확해질 수 있다.

결국 AI 반도체 시장에서 ‘가장 빠른 칩’이 반드시 ‘가장 성공한 칩’이 되는 것은 아니다. 데이터센터 운영자는 초당 토큰 수만 구매하는 것이 아니라 토큰당 비용, 전력, 메모리, 지연시간, 소프트웨어 호환성, 모델 확장성까지 함께 구매하기 때문이다.

그럼에도 에치드에 대한 시장의 평가가 급격히 높아지는 이유는 단순한 기술적 가능성 때문만은 아니다. 실제 칩을 생산했고, 고객 계약을 확보했으며, 첫 고객인 제인 스트리트가 투자자로 참여하고 있다는 점이 과거 AI 반도체 스타트업과 다른 부분이다.

결론적으로, 2026년 AI 반도체 시장에서 벌어지는 변화는 ‘GPU 대 ASIC’이라는 단순한 경쟁을 넘어선다. 엔비디아가 범용 AI 컴퓨팅 플랫폼을 장악하고 있는 가운데, 브로드컴과 마벨 같은 맞춤형 가속기 생태계, 구글 TPU와 아마존의 자체 AI 칩, 그록(Groq)과 에치드 같은 추론 특화 기업들이 각자의 영역을 넓히고 있다. 이 경쟁에서 NVIDIA는 범용성, Etched는 극단적인 추론 성능을 무기로 삼고 있다.

다만 진짜 시험대는 이제부터다. Sohu가 50만 토큰/초라는 숫자를 넘어 실제 데이터센터에서 안정적인 성능과 낮은 비용을 입증할 수 있는가. 동시에 NVIDIA Rubin이 범용 GPU의 유연성을 유지하면서 특화 ASIC에 필적하는 추론 경제성을 확보할 수 있는지, 국산 NPU 또한 충분한 성능과 전력효율을 바탕으로 독자적인 시장을 만들어낼 수 있는지도 관전 포인트다.