넥스트 ‘엔비디아’ AMD와 주요 AI 스타트업들
| | | | | | | | | | |

넥스트 ‘엔비디아’ AMD와 주요 AI 스타트업들

AI 시대를 이끄는 GPU 시장에서 NVIDIA의 지배력은 최근 몇년간 매우 견고했다. 그럼에도 데이터센터, 생성형 AI 같은 고성능 컴퓨팅 수요가 폭발하면서 다양한 유형의 도전자가 ‘차세대 엔비디아’를 노리고 있다. 글로벌 반도체 기업에서부터 AI 스타트업, 국가 전략 기업까지, 이들은 각자의 모멘텀과 전략으로 시장 경쟁을 벌이고 있다.

현실적인 경쟁자 AMD

AMD는 엔비디아의 AI 시장 독점에 도전하는 가장 현실적인 대항마로 꼽힌다. 강력한 연산 성능을 갖춘 MI300 시리즈 GPU와 곧 출시될 MI400 시리즈는 엔비디아의 최신 제품들과 직접 경쟁하며 시장의 주목을 받고 있다. MI350 GPU가 “엔비디아의 Blackwell HGX B200과 성능 면에서 동등하다”는 HSBC 분석을 비롯해, 업계 전문가들도 AMD가 진정한 경쟁자라고 말한다.

AMD는 하드웨어 성능 향상뿐만 아니라 엔비디아의 CUDA에 대항하는 개방형 소프트웨어 생태계인 ROCm(Radeon Open Compute Platform)을 강화하는 데 주력하고 있다. 이는 개발자들의 진입 장벽을 낮추고, 다양한 AI 워크로드에서 AMD GPU를 활용할 수 있는 기반을 넓히는 핵심 전략이다.

더불어, Time 선정 ‘2024 CEO of the Year’에 올랐던 리사 수(CEO)는 “10년 만에 회사를 AI 반도체 강자로 되살렸다”고 평가받는다. 이러한 배경이 AMD의 전략적 입지를 더욱 강화하고 있다.

AI칩 스타트업

엔비디아 H100은 강력한 성능, 광범위한 소프트웨어 생태계(CUDA) 및 범용성을 바탕으로 AI 칩 시장의 절대 강자로 군림하고 있다.

GPU 범용성에서 벗어나 특정 AI 워크로드에 최적화된 솔루션을 내세운 스타트업들의 도전도 거세다. Cerebras, Groq, SambaNova, Etched.ai 같은 AI 하드웨어 스타트업은 특정 워크로드에 최적화된 칩으로 시장의 빈틈을 공략한다.

세레브라스(Cerebras)와 삼바노바(SambaNova) 칩은 엔비디아 H100 GPU와 근본적으로 다른 아키텍처를 가진 AI 가속기로, 특정 AI 워크로드에서 H100 대비 우월한 성능과 효율성을 제공합니다. H100이 범용 GPU 기반의 클러스터 솔루션인 반면, 이 두 칩은 단일 칩으로 대규모 AI 모델을 처리하거나 데이터 흐름을 최적화하는 데 특화되어 있습니다.

세레브라스: 웨이퍼 스케일 엔진 (WSE)

세레브라스는 단일 웨이퍼 크기의 거대한 칩인 WSE(Wafer-Scale Engine)를 사용한다. 최신 WSE-3 칩은 엔비디아 H100의 56배에 달하는 크기(46,225mm²)를 자랑하며, 4조 개의 트랜지스터와 90만 개의 AI 코어를 집적했다. 이 거대한 칩은 여러 개의 GPU를 연결할 때 발생하는 통신 병목현상(Communication Bottleneck)을 제거하는 데 중점을 둔다.

H100이 여러 GPU를 NVLink와 같은 외부 인터커넥트로 연결하는 전통적인 클러스터 방식이라면, WSE는 모든 코어가 칩 내부에서 직접 연결돼 데이터 이동 오버헤드가 극적으로 줄어든다.

성능: 특정 복잡한 시뮬레이션 연구에서 WSE가 H100보다 최대 210배 빠른 성능을 보였다는 보고가 있다. 또한, WSE-3는 H100 대비 약 57배 더 크고, 28배 더 많은 AI 연산 코어를 가지고 있다.

효율성 및 용이성: H100이 시스템 확장을 위해 복잡한 소프트웨어 및 하드웨어 구성이 필요한 반면, WSE는 단일 칩으로 거대 모델을 처리할 수 있어 모델 병렬화의 복잡성을 크게 줄여준다. 세레브라스는 LLM 학습에 필요한 코드를 GPU 대비 97% 줄였다고 주장한다.

삼바노바: 재구성 가능 데이터플로우 유닛 (RDU)

삼바노바는 RDU(Reconfigurable Dataflow Unit)라는 독특한 칩 아키텍처를 사용한다. 이 칩은 AI 모델의 데이터 흐름에 맞춰 연산 파이프라인을 동적으로 재구성하는 특징을 가지고 있다. 이를 통해 데이터가 외부 메모리로 자주 이동할 필요 없이, 컴퓨팅 유닛 사이로 직접 스트리밍되어 하드웨어 활용률을 극대화한다. 이 방식은 LLM과 같은 복잡한 AI 모델의 추론(Inference) 과정에서 특히 빛을 발한다.

성능: 삼바노바는 복잡한 다중 모델 워크플로우를 마이크로초 단위로 처리하며, H100 대비 3배 빠른 속도와 5배 높은 효율성을 제공한다고 주장한다.

솔루션 패키지: 엔비디아가 주로 칩(H100)을 제공하고 사용자가 직접 시스템을 구축해야 하는 반면, 삼바노바는 칩부터 소프트웨어, 사전 훈련된 모델까지 전체 스택을 하나의 솔루션으로 제공하여 고객의 총소유비용(TCO)을 낮추는 데 초점을 둔다.

Etched.ai : Sohu “트랜스포머 전용 칩”

Etched.ai는 트랜스포머(Transformer) 아키텍처에 특화된 AI 칩을 개발하는 미국의 반도체 스타트업이다. 하버드 대학교 중퇴자들이 2022년에 설립한 이 회사는, 거대 언어 모델(LLM)의 핵심인 트랜스포머 연산에 최적화된 ASIC(Application-Specific Integrated Circuit) 칩을 개발하고 있다.

특히 Sohu 칩은 트랜스포머 연산만을 위해 설계 됐다. 대규모 언어 모델(LLM) 추론에서 엔비디아 H100보다 효율성과 속도에서 우위를 보이는 것으로 알려졌다. 챗GPT나 구글의 제미나이 등 현재 AI 시장을 주도하는 대부분의 모델이 트랜스포머 아키텍처를 기반으로 한다는 점을 노린 전략이다. Etched.ai Sohu 칩은 “8개가 160개의 H100 GPU를 대체할 수 있다”고 주장한다.

이상 스타트업들의 전략은 범용 GPU 대신 맞춤형 연산에 집중하는 것이다. 모든 AI 연산을 감당하기보다는 특정 작업에서 압도적 효율을 입증해 시장의 이목을 끌겠다는 의도다.

국가 전략 지원 “중국판 NVIDIA”

중국의 Cambricon, Enflame, Iluvatar CoreX 등은 ‘중국판 NVIDIA’를 목표로 자체 GPU 개발에 박차를 가하고 있다. 특히 DeepSeek가 자국산 칩을 채택한 후 Cambricon의 주가는 20% 이상 급등하며, “국가 주도 기술 육성” 전략이 시장의 신뢰를 얻고 있다고 FT(Financial Times)는 보도했다.

부분적으로 국유화된 캠브리콘(Cambricon Technologies)은 중국 베이징에 본사를 둔 반도체 회사로, 인공지능(AI) 프로세서 칩 및 GPGPU(범용 그래픽 처리 장치)를 개발하고 있다.

클라우드 서버용 칩부터 엣지 컴퓨팅 기기용 칩에 이르기까지 다양한 AI 칩 제품군을 보유하고 있다. 대표적인 제품으로는 클라우드용 AI 가속기인 ‘MLU(Machine Learning Unit)’ 시리즈와 엣지 디바이스용 칩인 ‘Siyuan’ 시리즈가 있다.

AI 생태계 구축도 주목할 성과다. 단순히 하드웨어 칩만 판매하는 것이 아니라, 자체 AI 소프트웨어 플랫폼인 ‘Cambricon NeuWare’를 통해 개발자들이 자사 칩을 쉽게 활용할 수 있도록 생태계를 구축하고 있다. 이는 엔비디아의 CUDA와 유사한 전략이다.

설계의 강자 Arm 하드웨어 도전

Arm은 전통적 설계 중심 기업에서 AI 칩 시장에 직접 뛰어든 새로운 행보를 보이고 있다. AWS AI 칩 개발자를 영입하여 클라우드 중심 전략을 가속화하는 등, 단순 설계에서 제조까지 영역을 확장 중이다.

거대 생태계를 가진 하이퍼스케일러

구글, 애플, 아마존, 마이크로소프트 등은 내부 하드웨어 개발을 통해 NVIDIA 의존도를 낮추려 한다. 애플 자체 AI칩 생산 확대, 구글 TPU, AWS AI칩 Trainium(학습), Inferentia(추론) 등은 이미 외부 사용자도 활용 중이며, AI 클라우드 시장에서 점차 영향력을 확대 중이다.

비즈니스 인사이더(Business Insider)는 “새로운 AI 칩을 개발하기보다는 특정 워크로드를 효율적으로 처리할 수 있는 맞춤형 솔루션을 강화하는 것이 엔비디아 독점을 깨는 현실적인 경로일 수 있다”고 엔비디아 출신 업계 애널리스트를 인용해 밝혔다.

퀄컴 : 온디바이스 엣지 AI

이밖에 퀄컴은 모바일 AP 시장에서의 독보적인 위치를 바탕으로 AI 시장에 새로운 접근을 시도하고 있다. 엔비디아가 클라우드와 데이터센터 시장에 집중하는 반면, 퀄컴은 ‘온디바이스 AI(On-device AI)’와 ‘엣지 AI’를 핵심 경쟁력으로 내세운다. 스마트폰, PC, 자율주행차 등 기기 자체에서 AI 연산을 처리하는 기술에 강점을 가지고 있으며, 이는 데이터센터 기반 AI와는 다른 새로운 시장을 창출하고 있다. 특히 PC용 CPU인 스냅드래곤 X 엘리트를 통해 마이크로소프트와 협력하여 AI PC 시장을 선도, 장기적으로 클라우드 AI 시장 수요 일부를 분산시키고 새로운 생태계를 형성할 가능성을 보여준다.

‘범용성’ 대 ‘특화성’

NVIDIA의 오랜 경쟁자 AMD 외에도, 특정 도메인의 AI 칩 스타트업, 중국 기업들과 Arm, 퀄컴, 구글, 애플, 아마존 등은 생태계 중심 혁신, 각자 강점을 기반으로 엔비디아의 지배력에 도전하고 있다.

향후 5~10년 내에는 특정 도메인에 최적화된 여러 ‘차세대 GPU 강자’가 엔비디아를 보완하거나 일부 영역에서는 대체할 가능성은 있다. 특히 세레브라스와 삼바노바와 같은 전문 스타트업들은 엔비디아의 독점 체제에 균열을 내며 새로운 시장을 개척할 잠재력을 가지고 있다.

사이언스모니터 뉴스레터
AI·양자·R&D 핵심 해설을 주 2회(화·금) 이메일로 받아 보세요.

Similar Posts