화웨이, AI 추론용 ‘컨텍스트 메모리 스토리지’ 공개…64PB KV 캐시로 슈퍼팟 병목 넘는다

화웨이(Huawei)가 초거대 인공지능(AI) 추론 과정에서 급증하는 KV 캐시를 대규모로 저장하고 공유할 수 있는 ‘컨텍스트 메모리 스토리지(Context Memory Storage)’를 공개했다. 온칩 메모리와 DRAM만으로는 감당하기 어려워진 초장문 컨텍스트와 다중 턴 추론의 메모리 병목을 SSD까지 확장해 해결하는 방식이다.화웨이는 17일 중국 상하이에서 열린 ‘화웨이 커넥트 2026(HUAWEI CONNECT 2026)’에서 데이비드 왕(David Wang) 화웨이 이사회 부회장 겸 순환 회장이 기조연설을 통해 ‘오션스토어

인공지능신문 · 2026. 09. 18. 오전 05:54