KAIST, 생성형 AI 추론용 저전력 NPU 핵심 기술 개발
KAIST 연구진이 생성형 AI 클라우드 인프라의 메모리 병목과 전력 소모 문제를 해결할 수 있는 고성능·저전력 NPU(신경망처리장치) 핵심 기술을 개발했습니다. 이번 기술은 챗GPT, 구글 Gemini 등 최신 생성형 AI 모델의 추론 성능을 평균 60% 이상 향상시키면서도 전력 소모를 약 44% 줄일 수 있는 것으로 확인됐습니다. 생성형 AI 클라우드의 ‘메모리 최적화’ 문제 해결 챗GPT-4나 Gemini 2.5 같은…
