KV-Cache Fusion

中 칭화대 연구팀 Cache-to-Cache 혁신 대형 언어모델(LLM) 간 협업에서 텍스트는 더 이상 필수가 아닐지도 모른다. 중국 칭화대학(Tsinghua University)를 비롯한 Infinigence AI, 홍콩중문대, 상하이 AI Lab, 상하이 교통대 공동 연구팀이 발표한 새 논문에 따르면, 모델들은 단 한 줄의 문장도 주고받지 않고 협업할 수 있다. 이들은 이를 가능하게 하는 새로운 프레임워크 Cache-to-Cache(C2C) 를 제안했다. 지금까지 다중 LLM…