태그: #roofline
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 1 편
메모리 월과 HBM — AI 성능을 가르는 진짜 병목
연산은 싸지고 데이터 이동은 비싸진 시대, AI 성능의 진짜 병목은 메모리입니다. 메모리 월 개념부터 HBM 세대, roofline 모델과 산술 강도, KV 캐시, 양자화로 대역폭을 절감하는 법까지 개발자 관점에서 정리합니다.
2026-06-16 · 43 분 읽기 #memory-wall#hbm#bandwidth#roofline#inference