호라이즌로보틱스, 헤일로, 크네론, 그린웨이브, 미틱, 에타컴퓨트

엔드 포인트 AI의 ‘Endpoint’는 네트워크 말단 장치를 의미한다. 데이터는 데이터를 수집한 장치에서 자체 처리된다. 여기에는 보안 카메라부터 드론, 자율주행 자동차, 스마트 가전제품 전반이 포함된다. 물론 자율주행 자동차 또는 스마트폰 등 일부 장치는 게이트웨이 겸 엔드 포인트로 사용할 수 있어 일부 중첩 영역도 있다.

호라이즌 로보틱스(Horizon Robotics)

2015년 중국 베이징에서 설립된 호라이즌 로보틱스는 2019년 말까지 약 6억 달러를 펀딩했다. 회사 가치는 10억 달러 기준 유니콘 업체의 3배, 30억 달러에 달한다.

현재 ‘Horizon Robotics’는 직원이 500명 이상이며 600개가 넘는 특허를 보유하고 있다. Horizon Robotics의 BPU(brain processing unit)는 원래 컴퓨터 비전 애플리케이션을 위해 설계됐다. BPU의 2세대는 컨볼루션 네트워크뿐만 아니라 모든 유형의 신경망을 처리 할 수 있는 64비트 MIMD(Multi-Instruction Multi-Data) 코어다. 희소 신경망을 사용, 객체의 움직임과 장면 파싱을 예측한다. 3세대는 의사결정 알고리즘과 딥러닝 이외의 AI도 가속화할 예정이다.

Horizon Robotics에는 자율주행과 AIoT 애플리케이션을 위한 두 칩 제품군으로 2017년 12월 BPU 2.0을 기반으로 하는 2세대, Journey/Sunrise칩 1세대가 있다.

Journey 2는 L3/L4 자율주행을 위해 2W에서 4개의 TOPS를 제공하고 인식을 위한 ‘Horizon’ 자체 알고리즘과 결합, 코어 활용은 90% 수준이다.

헤일로(Hailo)

‘Hailo’는 2017 년 이스라엘 텔아비브에서 이스라엘 국방부 엘리트 정보부대 출신 구성원들로 설립됐다. 이 회사는 약 60명의 직원을 보유하고 있으며 현재까지 2,100만 달러를 펀딩했다.

헤일로 -8칩. Hailo-8은 2.8 TOPS / W의 전력 효율로 26 개의 TOPS를 처리할 수 있다. credit : Hailo.

회사의 AI칩 ‘Hailo-8’은 26개의 TOPS를 2.8TOPS /W의 전력 효율로 처리 할 수 있다. ADAS (고급 운전자 보조시스템) 및 자율주행 애플리케이션을 대상으로한다. 이 아키텍처는 메모리, 제어 및 계산 블록을 혼합하며 인접한 블록은 소프트웨어로 신경망의 각 계층을 계산하기 위해 할당된다. 칩에서 데이터를주고받는 것을 최소화, 전력을 절약할 수 있다.

Hailo-8 대량 생산은 2020년 상반기에 시작될 예정이다.

크네론(Kneron)

‘Kneron’은 2015년 미국 센디에고에서 설립된 에지(edge) AI 솔루션 스타트업이다. 미국 샌디에고와 대만에 150명의 직원과 6900만 달러의 자금을 펀딩했다.

2019년 5월 1세대 KL520칩과 고객사를 발표, 2019년 수백만 달러의 수익을 올렸다.

KL520은 컨볼루셔널신경망(CNN)에 최적화되어 있으며 0.5W(0.6 TOPS / W에 해당)에서 0.3TOPS를 실행할 수 있다. 이 회사는 IP 보안카메라 등 얼굴 인식을위한 신경망으로 시작해 이제 신경처리장치(NPU)와 함께 IP를 제공한다.

올 여름 2세대 칩이 출시 될 예정이며 CNN과 RNN(Recurrent Neural Network)을 가속화할 수있을 것이라고 회사 측은 밝혔다.

미틱(Mythic)

‘Mythic’은 2012년 미국 미시간대에서 설립됐다. 미국 텍사스주 오스틴에 본사를 둔 이 회사는 CPU 및 GPU에 비해 전력, 성능 및 비용 이점을 위해 플래시 트랜지스터를 기반으로 한 메모리 내 프로세서 기술을 사용하는 아날로그 컴퓨팅 칩을 개발하기 위해 8,800 만 달러를 펀딩했다.

프로세서 내 메모리는 새로운 것이 아니지만 ‘Mythic’은 잡음을 제거하고 안정적인 8비트 계산을 허용하는 까다로운 보상 및 교정 기술을 개발했다. 이 회사는 독립형 칩과 멀티 칩 프로세싱 카드를 판매 할 계획이다. 이 장치는 30fps의 HD비디오에서 이미지 처리를 처리 할 수 있다. Mythic의 주요 목표 시장 중 하나는 보안 카메라 시스템 용 보안 카메라, 온-프레미스 어그리게이터다.

Ultra-low power and high-performance AI processor GAP8. credit:greenwaves-technologies.

IoT AI(TinyML)

IoT의 AI칩은 초저전력 마이크로 컨트롤러 수준 컴퓨팅 칩이다. 엔드 포인트 장치에 대한 AI추론은 대기 시간을 늘리고 대역폭을 절약하며 개인 정보보호 및 클라우드로 데이터의 RF 전송과 관련된 전력을 절약한다.

그린웨이브(GreenWaves)

프랑스 그르노블에 위치한 그린웨이브(GreenWaves)는 스위스연방공대(ETF Zurich)와 이탈리아 볼로냐대(University of Bologna) 연구팀에서 스핀오프 됐다,

GreenWaves는 배터리 전원 감지 장치를 위해 초 저전력 ML 응용 프로세서에서 여러 RISC-V코어를 사용한다. 최소한 전력 소비로 DSP 작동 및 AI 가속을 촉진하기 위해 맞춤형 명령세트 확장에 의존한다.

2세대 제품 GAP9는 10개의 코어를 사용, 하나는 패브릭 컨트롤러로, 9개는 컴퓨팅 클러스터를 구성한다. 컨트롤러와 클러스터는 별도의 전압 및 주파수 도메인으로 구성되어 필요할 때만 전력을 소비한다. 또한 최첨단 FD-SOI (실리콘 온 절연체) 공정 기술을 활용, 전력 소비를 최소화한다.

2020년 상반기에 출시 예정인 GAP9 샘플칩 전력 소비는 160 x 160이미지에서 MobileNet V1 실행 시 806μW/frame/초다.

에타 컴퓨트(Eta Compute)

미국 켈리포니아 기반 스타트업 ‘Eta Compute’는 2015년에 설립, 미국과 인도에서 35명을 고용, 현재까지 1900만 달러의 자금을 조달했다.

최근 출시한 시스템 온 칩(SoC) ‘ECM3532’는 초저전력 IoT AI처리 설계에 ‘Arm Cortex-M3’ 프로세서 코어와 ‘NXP CoolFlux DSP’코어를 활용했다. 핵심은 연속 전압 및 주파수 스케일링(CVFS)이라는 자체 기술이다. CVFS를 통해 시스템은 각 코어의 전압과 주파수를 독립적으로 조절할 수 있다. AI 워크로드는 소프트웨어로 할당, 코어 또는 둘 다에서 실행될 수 있다. 이 기술을 사용하면 100µW의 전력으로 상시 이미지 처리 및 센서 융합을 달성 할 수 있다.

또한 ECM3532 장치에서 실행될 초 저전력 애플리케이션을 위해 신경망을 최적화 한다. 현재 샘플을 이용할 수 있다.