태그: #llm-deployment
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 1 편
AI 모델 배포 & 서빙 완전 가이드: Triton, vLLM, BentoML, Kubernetes까지
Docker GPU 컨테이너, Kubernetes HPA, NVIDIA Triton, vLLM LLM 서빙, BentoML, Ray Serve까지 AI 모델 프로덕션 배포 완전 가이드입니다.
2026-03-17 · 18 분 읽기 #model-serving#triton#vllm#bentoml#kubernetes