태그: #architecture
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 101 편
Live Migration 1: migration CRD에서 target Pod 생성까지
VirtualMachineInstanceMigration 객체가 생성된 뒤 virt-controller가 정책, 용량, 타임아웃, target Pod 생성을 어떻게 조율하는지 control plane 관점에서 설명한다.
2026-03-20 · 9 분 읽기 #architecture#kubevirt#live-migration#controller#kubernetesEviction, drain, migration failure modes: KubeVirt는 실패를 어떻게 처리하는가
KubeVirt가 node drain, eviction, live migration 실패, post-copy irrecoverable 상태, non-migratable 조건을 어떤 상태 필드와 코드 경로로 처리하는지 분석한다.
2026-03-20 · 10 분 읽기 #architecture#kubevirt#migration#eviction#drain[Architecture] LiteLLM 완전 가이드: 100+ LLM 통합 서빙과 비용 관리
LiteLLM으로 OpenAI, Anthropic, Azure, Bedrock 등 100+ LLM을 하나의 API로 통합하는 방법, Proxy 서버 구축, 비용 추적, Rate Limiting, Load Balancing까지 총정리합니다.
2026-03-20 · 19 분 읽기 #architecture#litellm#llm#ai-gateway#mlopsVMI spec가 libvirt domain XML로 변환되는 과정
KubeVirt의 converter가 VMI spec를 어떻게 libvirt domain spec와 XML로 바꾸며, 그 과정에서 디스크, NIC, CPU, 보안 옵션이 어떻게 재해석되는지 설명한다.
2026-03-20 · 9 분 읽기 #architecture#kubevirt#libvirt#qemu#domain-xmlvirt-controller deep dive: informer, queue, reconcile로 VM Pod를 만드는 법
virt-controller가 VMI, Pod, PVC, migration 등을 감시하며 launcher Pod를 만들고 상태를 전파하는 방식을 informer와 reconcile 관점에서 해부한다.
2026-03-20 · 9 분 읽기 #architecture#kubevirt#kubernetes#controller#reconciliationVMI status, metrics, guest agent, debugging: KubeVirt는 내부 상태를 어떻게 드러내는가
KubeVirt가 VMI status, guest agent, domain stats, Prometheus metrics, virt-handler API를 통해 VM 내부 상태를 어떻게 수집하고 노출하는지 코드 기준으로 정리한다.
2026-03-20 · 10 분 읽기 #architecture#kubevirt#observability#metrics#guest-agentKubeVirt 네트워크 1: Pod 네트워크를 VM 네트워크로 바꾸는 기본 원리
KubeVirt가 Pod에 먼저 붙은 CNI 네트워크를 bridge, TAP, DHCP, NAT 레이어를 통해 guest NIC로 연결하는 원리와 IP 할당 모델을 설명한다.
2026-03-20 · 9 분 읽기 #architecture#kubevirt#kubernetes#cni#networkingLive Migration 3: migration proxy, 포트, TLS, 소켓은 왜 필요한가
KubeVirt가 live migration에서 source와 target launcher 사이에 migration proxy를 두는 이유와, 포트, Unix socket, TLS 경로를 어떻게 조합하는지 설명한다.
2026-03-20 · 8 분 읽기 #architecture#kubevirt#live-migration#networking#tlsKVM, cgroup, namespace, tap, netlink: KubeVirt가 기대는 커널 기술
KubeVirt가 Pod 위에서 VM을 구현할 수 있도록 받쳐 주는 리눅스 커널 기술인 KVM, cgroup, namespace, TAP, netlink, VFIO의 역할을 정리한다.
2026-03-20 · 8 분 읽기 #architecture#kubevirt#linux#kvm#cgroupsVM, VMI, Migration CRD는 각각 무엇을 표현하는가
KubeVirt의 핵심 API 타입인 VirtualMachine, VirtualMachineInstance, VirtualMachineInstanceMigration이 각각 어떤 책임을 가지며 왜 분리되어 있는지 소스 스키마 기준으로 설명한다.
2026-03-20 · 10 분 읽기 #architecture#kubevirt#kubernetes#virtualization#crdvirt-launcher, libvirt, QEMU: 실제 VM 프로세스는 어디서 어떻게 뜨는가
virt-launcher Pod 내부에서 command server, libvirt 연결, domain event monitor, guest agent poller가 어떻게 맞물리며 실제 QEMU 프로세스를 실행하는지 추적한다.
2026-03-20 · 9 분 읽기 #architecture#kubevirt#qemu#libvirt#virt-launcher사용자 요청이 VMI로 바뀌는 순간: virt-api와 admission 흐름
virt-api가 KubeVirt의 API 진입점으로서 어떤 검증, defaulting, subresource 처리, migration 요청 생성을 수행하는지 소스 코드 기준으로 정리한다.
2026-03-20 · 9 분 읽기 #architecture#kubevirt#kubernetes#virtualization#apiKubeVirt 소스코드 읽기 맵: 어디서부터 읽어야 전체 구조가 잡히는가
KubeVirt 소스코드를 API 타입, controller, node agent, launcher, network, migration, kernel integration 순서로 읽어 전체 구조를 빠르게 잡는 읽기 지도를 제안한다.
2026-03-20 · 10 분 읽기 #architecture#kubevirt#source-code#reading-map#kubernetesKubeVirt 네트워크 2: bridge, masquerade, passt, SR-IOV 바인딩 비교
KubeVirt의 주요 네트워크 바인딩인 bridge, masquerade, passt, SR-IOV가 각각 어떤 방식으로 guest NIC를 구성하며 성능, 연결성, migration 특성에서 어떻게 다른지 설명한다.
2026-03-20 · 9 분 읽기 #architecture#kubevirt#networking#multus#sriovLive Migration 2: pre-copy, post-copy, dirty page, auto-converge의 실제 의미
KubeVirt live migration의 실제 데이터 전송 단계에서 pre-copy, post-copy, dirty page, auto-converge, pause 전환이 어떤 의미를 가지는지 소스 코드 기준으로 설명한다.
2026-03-20 · 10 분 읽기 #architecture#kubevirt#live-migration#libvirt#qemuKubeVirt는 어떻게 Pod 위에서 VM을 실행하는가
KubeVirt가 Kubernetes를 바꾸지 않고도 Pod 스케줄링, Pod 네트워크, Pod 스토리지를 재사용해 VM을 실행하는 원리를 소스 코드 관점에서 해부한다.
2026-03-20 · 10 분 읽기 #architecture#kubevirt#kubernetes#virtualization#qemuCPU, Memory, NUMA, HugePages: KubeVirt는 자원 모델을 어떻게 맞추는가
KubeVirt가 VMI의 CPU와 메모리 요청을 launcher Pod 자원 요청, 메모리 오버헤드, CPU pinning, NUMA, hugepages 모델로 어떻게 변환하는지 설명한다.
2026-03-20 · 8 분 읽기 #architecture#kubevirt#kubernetes#numa#hugepages[Architecture] 메시지 큐로 비동기 시스템 구현하기: Kafka vs RabbitMQ
Kafka와 RabbitMQ의 아키텍처 차이, LLM Gateway에서의 비동기 처리 패턴, 실전 구현 예제와 선택 가이드를 총정리합니다.
2026-03-20 · 21 분 읽기 #architecture#kafka#rabbitmq#async#message-queueAI 시스템 설계 완전 가이드: LLM 서비스부터 MLOps 아키텍처까지
AI 시스템을 프로덕션 수준으로 설계하는 완전 가이드. 실시간 추론 시스템, 벡터 검색 인프라, LLM 서비스 아키텍처, 데이터 파이프라인, 모니터링 시스템 설계까지 실전 아키텍처로 배웁니다.
2026-03-17 · 37 분 읽기 #system-design#ai-infrastructure#llm#mlops#architecture마이크로프론트엔드 아키텍처 실전 가이드: Module Federation, Single-SPA, Web Components 비교
Webpack Module Federation, Single-SPA, Web Components 세 가지 마이크로프론트엔드 구현 방식을 실전 코드와 함께 비교하고, 공유 상태 관리, CSS 격리, 독립 배포 전략, 성능 최적화, 실패 사례와 운영 체크리스트를 다룹니다.
2026-03-15 · 37 분 읽기 #architecture#micro-frontend#module-federation#single-spa#web-components