태그: #scheduler

한국어English日本語中文

← 전체 글

• vLLM 내부 구조 (4) — 스케줄러와 선점, 처리량이 갑자기 무너지는 지점

  vLLM 스케줄러가 매 스텝 무엇을 결정하는지, 대기 큐와 실행 큐가 어떻게 움직이는지, KV 캐시가 모자랄 때 일어나는 선점(preemption)이 지연과 처리량을 어떻게 무너뜨리는지 공식 문서와 V1 스케줄러 소스로 확인해 정리했습니다. recompute와 swap의 차이, fcfs와 priority 정책도 함께 다룹니다. vLLM 내부 구조 시리즈 4편.

  2026-08-12 · 12 분 읽기 #vllm#scheduler#preemption#kv-cache#llm

• vLLM을 고쳐서 빠르게 만들기 — 설정, 내부 구조, 그리고 코드를 건드릴 지점

  vLLM 성능을 올리는 작업을 코드를 고치지 않고 되는 것부터 순서대로 정리합니다. 배치 관련 인자와 프리픽스 캐싱, 청크드 프리필, 양자화 선택을 먼저 다루고, 그다음 PagedAttention과 연속 배칭 스케줄러가 내부에서 무엇을 결정하는지 실제 소스를 근거로 설명합니다. 실제로 코드를 건드릴 만한 세 지점인 커스텀 로짓 프로세서, 커스텀 어텐션 백엔드, 스케줄러 정책과 그 대가도 짚습

  2026-08-02 · 35 분 읽기 #vllm#llm-inference#paged-attention#benchmark#scheduler

• Kubernetes Pod Pending 상태 해결 — 스케줄러가 남긴 거절 사유 읽는 법

  파드가 Pending에서 몇 분째 넘어가지 않을 때, 스케줄러는 이미 거절 사유를 이벤트에 남겨 두었습니다. 0/5 nodes are available로 시작하는 그 문장을 정확히 해독하는 법부터 시작해 아홉 갈래 원인을 하나씩 배제합니다. 리소스 부족은 실제 사용량이 아니라 requests 총합으로 판정된다는 점, taint와 톨러레이션, 노드 셀렉터와 어피니티 불일치, PVC 미바인딩과

  2026-07-26 · 20 분 읽기 #kubernetes#scheduler#pending#troubleshooting#autoscaling

• sched_ext 서브 스케줄러 — 커널 7.1에 절반만 도착한 cgroup별 스케줄러

  리눅스 7.1(2026년 6월 14일)에 schedext의 cgroup 서브 스케줄러 지원이 들어갔습니다. 목표는 분명합니다 — cgroup 트리 어디에나 BPF 스케줄러를 붙이고, 부모 스케줄러가 자식들에게 CPU를 동적으로 배분해서, 컨테이너나 애플리케이션 도메인마다 자기 워크로드에 맞는 스케줄링 정책을 돌리는 것입니다. 동기는 cpuset 하드 파티셔닝이 주지 못하는 유연성이고, 멀티테

  2026-07-16 · 24 분 읽기 #linux#kernel#scheduler#cgroups#bpf

• 리눅스 CPU 스케줄러의 진화 — CFS에서 EEVDF까지

  vruntime과 레드블랙 트리로 공정성을 구현한 CFS의 원리부터, 지연 민감 워크로드의 한계를 해결하기 위해 커널 6.6에서 기본이 된 EEVDF까지 스케줄러의 진화를 따라갑니다. cgroup CPU 제어와 쿠버네티스 스로틀링 진단, 저지연 워크로드 격리 레시피, 테일 레이턴시 튜닝 시나리오를 다룹니다.

  2026-06-13 · 30 분 읽기 #linux#kernel#scheduler#cfs#eevdf

• 금융권 배치와 일마감(EOD) — 새벽을 지배하는 아키텍처

  금융권에서 배치가 여전히 핵심인 이유와 일마감(EOD) 처리의 전체 그림을 다룹니다. 잡 스케줄러와 의존성 DAG, 체크포인트 재기동, 파티셔닝과 청크 처리, 센터컷과 날짜 전환, 실패 복구와 멱등 설계, 배치 현대화까지 운영 관점에서 정리합니다.

  2026-06-13 · 35 분 읽기 #finance#batch#eod#spring-batch#scheduler

• React Fiber 내부 완전 가이드 2025: Reconciler, Scheduler, Concurrent Rendering, Hooks 심층 분석

  React 18의 Concurrent Rendering이 어떻게 작동하는가? Fiber 아키텍처, Reconciler, Scheduler, Hooks의 내부 구현, useState의 진짜 동작까지 — React 내부를 720줄로 완전 분석한다.

  2026-04-15 · 33 분 읽기 #react#fiber#reconciler#scheduler#concurrent-mode

• Linux 스케줄러 완전 가이드 2025: CFS, EEVDF, Real-Time, Deadline — 프로세스는 어떻게 CPU를 나눠 쓰는가

  당신의 컴퓨터에는 수백 개의 프로세스가 동시에 돌고 있다. Linux CFS, 2023년 도입된 EEVDF, real-time/deadline 클래스, cgroup 스케줄링까지 — 프로세스 스케줄링의 모든 것을 720줄로 완전 분석한다.

  2026-04-15 · 43 분 읽기 #linux#scheduler#cfs#eevdf#realtime

• Go 런타임 스케줄러 Deep Dive — GMP 모델, Work-Stealing, 비동기 Preemption, netpoller 완전 정복 (2025)

  Go의 가벼운 고루틴이 어떻게 수십만 개씩 동작하는지 궁금했다면, 이 글은 Go 런타임 내부를 해부합니다. GMP 스케줄러 구조, Local Run Queue와 Work-Stealing, 고루틴 스택의 동적 증가(Copy-on-Grow), cooperative에서 asynchronous로 진화한 Preemption, netpoller와 syscall handoff, GC와 스케줄러의 상호작용

  2026-04-15 · 48 분 읽기 #go#golang#runtime#scheduler#goroutine

• Linux 스케줄러 완벽 가이드 — O(1)에서 CFS, 그리고 EEVDF까지: vruntime, 레드블랙트리, 지연 모델, 로드 밸런싱 (2025)

  Linux 스케줄러의 모든 것 — 1990년대 단순 라운드로빈에서 O(1) 스케줄러, Ingo Molnar의 CFS, 그리고 2023년 EEVDF로의 전환까지. vruntime의 의미, 레드블랙 트리 구현, schedperiod와 가중치, EEVDF의 lag/eligible/deadline 모델, 멀티코어 로드 밸런싱, NUMA 인지, SCHEDDEADLINE의 CBS, PREEMPTRT,

  2026-04-15 · 55 분 읽기 #linux#kernel#scheduler#cfs#eevdf

• Kubernetes 내부 완전 가이드 2025: Scheduler, Controller, etcd, API Machinery, CRD/Operator 심층 분석

  kubectl apply 뒤에서 무슨 일이 일어나는가? API Server부터 etcd, Scheduler, Controller, kubelet까지 — Kubernetes의 모든 내부 구조를 720줄로 완전 분석한다. Informer 패턴, Reconciliation, Operator 개발까지 다룬다.

  2026-04-15 · 66 분 읽기 #kubernetes#scheduler#controller#etcd#api-server

• Kubernetes 내부 구조 완전 해부 — etcd Raft, 스케줄러, 컨트롤러 리컨사일, CRI/CNI/CSI까지

  kubectl apply 한 줄이 실제로 어떻게 동작하는가. API Server → etcd Raft 합의 → 스케줄러 점수 계산 → kubelet → CRI/CNI/CSI까지, Kubernetes의 컨트롤 플레인과 데이터 플레인을 바닥부터 해부합니다.

  2026-04-15 · 30 분 읽기 #kubernetes#etcd#raft#scheduler#controller

• Kubernetes 내부 구조 완벽 가이드 — etcd, API Server, Controller, Scheduler, kubelet, CRI/CNI/CSI 모든 것 (2025)

  Kubernetes 내부 구조의 모든 것 — Google Borg에서 시작한 역사, etcd의 Raft consensus, API Server의 REST와 watch 프로토콜, scheduler의 filter/score 알고리즘, controller manager의 reconciliation loop, kubelet의 Pod lifecycle, CRI/CNI/CSI 플러그인 모델, kube-

  2026-04-15 · 48 분 읽기 #kubernetes#etcd#controller#scheduler#kubelet

• Kubernetes 심화 운영 가이드 2025: 오토스케일링, 스케줄링, 리소스 관리, 멀티 클러스터

  K8s 심화 운영의 모든 것! 오토스케일링(HPA/VPA/KEDA/Karpenter), 스케줄링(Affinity/Taint-Toleration/Priority/Topology), 리소스 관리(QoS/LimitRange/ResourceQuota), 멀티 클러스터(Cluster API/Fleet), 업그레이드 전략, 문제 해결.

  2026-04-14 · 21 분 읽기 #kubernetes#hpa#vpa#keda#scheduler

• Spring Boot Batch 완전 가이드: Job, Step, Chunk 처리와 실전 패턴

  Spring Boot Batch의 Job, Step, Chunk 처리 모델, ItemReader/ItemProcessor/ItemWriter, JobLauncher, 파티셔닝, 병렬 처리, 스케줄러 연동, 모니터링까지 완전 가이드합니다.

  2026-03-17 · 17 분 읽기 #spring-boot#spring-batch#batch-processing#job#chunk