태그: #knowledge-distillation
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 1 편
지식 증류(Knowledge Distillation) 완전 가이드: 모델 경량화와 압축 기법
지식 증류와 모델 압축 기법을 완전히 마스터하는 가이드. Teacher-Student 학습, 중간 레이어 증류, 관계 기반 증류, 구조적 프루닝, 가중치 공유, 신경망 구조 탐색(NAS)까지 실전 PyTorch 코드로 배웁니다.
2026-03-17 · 32 분 읽기 #knowledge-distillation#model-compression#pruning#deep-learning#ai