태그: #하이브리드클라우드
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 1 편
하이브리드 GPU 쿠버네티스와 Cilium·Istio 네트워크
온프레미스 GPU 노드와 클라우드 노드를 한 클러스터 또는 여러 클러스터로 묶을 때 선택지와 네트워크 경로, 그리고 Cilium과 Istio의 역할 분담을 정리합니다. LLM 서빙의 긴 연결과 스트리밍 응답이 타임아웃, 로드밸런싱, 헬스체크에서 어떻게 깨지는지를 중심으로 다룹니다.
2026-10-06 · 41 분 읽기 #Kubernetes#하이브리드클라우드#GPU#Cilium#Istio