태그: #model-compression

한국어English日本語中文

← 전체 글

• 지식 증류(Knowledge Distillation) 완전 가이드: 모델 경량화와 압축 기법

  지식 증류와 모델 압축 기법을 완전히 마스터하는 가이드. Teacher-Student 학습, 중간 레이어 증류, 관계 기반 증류, 구조적 프루닝, 가중치 공유, 신경망 구조 탐색(NAS)까지 실전 PyTorch 코드로 배웁니다.

  2026-03-17 · 32 분 읽기 #knowledge-distillation#model-compression#pruning#deep-learning#ai

• 딥러닝 모델 양자화 완전 정복: INT8, INT4, GPTQ, AWQ, GGUF 마스터하기

  딥러닝 모델 양자화를 완전히 마스터하는 가이드. FP32에서 INT8, INT4까지의 양자화 원리, GPTQ, AWQ, GGUF, bitsandbytes, AutoGPTQ, llama.cpp까지 실전 예제로 완벽히 이해합니다.

  2026-03-17 · 38 분 읽기 #quantization#model-compression#gptq#awq#gguf

• LLM 양자화(Quantization) 실전 가이드: GPTQ·AWQ·GGUF 포맷 비교와 정밀도-성능 트레이드오프

  LLM 양자화 기술의 핵심 원리부터 GPTQ, AWQ, GGUF, bitsandbytes NF4까지 주요 포맷을 비교 분석하고, 실전 코드와 벤치마크를 통해 프로덕션 환경에서의 최적 전략을 제시합니다.

  2026-03-14 · 28 분 읽기 #llm#quantization#gptq#awq#gguf