태그: #zero-optimization
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 1 편
DeepSpeed 완전 가이드: ZeRO 최적화와 대규모 모델 학습
Microsoft DeepSpeed를 완전히 마스터하는 가이드. ZeRO-1/2/3 최적화, Offload, 파이프라인 병렬화, 혼합 정밀도, MoE, DeepSpeed Inference까지 실전 설정과 코드로 배웁니다.
2026-03-17 · 23 분 읽기 #deepspeed#zero-optimization#distributed-training#llm#pytorch