고가 GPU 한 대를 여러 AI가 나눠 쓴다… 엔비디아, 메모리까지 통제하는 공유 기술 공개

인공지능(AI) 모델을 실행할 때마다 고가의 GPU 한 대를 통째로 할당해야 하는 비효율을 줄일 수 있는 새로운 기술이 공개됐다. 하나의 GPU를 여러 AI 작업이 공유하면서도 각 작업이 사용할 수 있는 메모리의 양을 제한하고, 필요에 따라 남는 자원을 추가로 활용할 수 있도록 하는 방식이다.엔비디아(NVIDIA)는병렬 컴퓨팅 플랫폼 쿠다 13.4(CUDA 13.4)의 메모리 사용량 제한 기능을 쿠버네티스(Kubernetes) 환경에서 활용할 수 있도록 지원하는 오픈소스 기술 'GPU 프랙셔닝 오퍼레이터(GPU Fractioning

인공지능신문 · 2026. 10. 28. 오후 08:59