KAIST, 추론속도 4배 초고효율 AI 메모리 반도체 세계 최초 개발
KAIST 연구진이 미국 조지아공대, 스웨덴 웁살라대와 함께 거대언어모델(LLM)의 추론 속도를 4배 높이고 전력 소모를 절반 이하로 줄인 차세대 AI 반도체 핵심 기술을 개발했다. 트랜스포머(Transformer)의 고성능 구조와 맘바(Mamba)의 연산 효율을 결합한 하이브리드 두뇌 ‘PIMBA(Processing-In-Memory Based Accelerator)’로, 메모리 내부에서 직접 연산을 수행하는 방식의 AI 반도체로는 세계 최초 사례다. 17일 KAIST(총장 이광형)는 전산학부 박종세 교수 연구팀이 조지아공대 및…
