https://n.news.naver.com/mnews/article/092/0002429959
지디넷코리아
퀄컴은 LPDDR6 기반 '고대역폭 연산', 인텔은 'XBM' 특허 출원 AI 가속기 성능을 좌우하는 핵심 요소가 연산 능력뿐 아니라 메모리 대역폭으로 옮겨가면서 고대역폭메모리(HBM)은 AI 시대의 필수 부품으로 자리 잡았다. 거대언어모델(LLM)의 학습과 추론 과정에서는 초당 수 테라바이트(TB)에 이르는 메모리 대역폭이 요구되기 때문이다.
엔비디아 블랙웰 울트라(GB300), AMD 인스팅트 MI350 등 최신 AI GPU 대부분은 200GB 이상의 HBM을 탑재하고 있으며, 구글의 텐서처리장치(TPU) 역시 HBM을 활용한다. 그러나 높은 성능만큼 치러야 하는 대가도 크다.
댓글 0