GPU Operator 와 타임슬라이싱
플랫폼 엔지니어링 · 고급 · 이론 6 · 퀴즈 4 · 실습 1
쿠버네티스에 GPU 를 붙이는 일은 드라이버를 까는 일이 아니라 노드의 컨테이너 런타임 설정을 오퍼레이터에게 맡기는 일입니다. 그래서 잘 돌던 클러스터가 타임슬라이싱 설정 한 줄 때문에 GPU 전량을 못 쓰게 되는 일이 실제로 일어납니다. 이 코스는 그 사고를 처음부터 다시 밟습니다 — containerd 설정의 병합 규칙, '로드된 것'을 보는 습관, ClusterPolicy 와 데몬셋과 RuntimeClass 의 연결, 타임슬라이싱이 나누는 것과 나누지 않는 것, 그리고 롤아웃이 한 노드에서 멈추는 자리. 실습 환경에는 진짜 GPU 도 GPU Operator 도 없습니다. 설정 파일과 파서, 그리고 kwok 이 띄운 진짜 컨트롤 플레인 위에서 재현할 수 있는 것만 실습으로 다루고, 무엇이 실물이고 무엇이 흉내인지는 실습 안내에 그대로 밝혀 둡니다.
커리큘럼
GPU 를 클러스터에 붙인다는 것
오퍼레이터가 대신해 주는 것은 설치가 아니라 노드 설정이다.
런타임 등록이 조용히 실패하는 자리
설정 파일에 썼다는 것과 로드됐다는 것은 다른 사건이다.
한 장을 여럿이 쓴다는 말의 뜻
타임슬라이싱은 자리를 늘릴 뿐 메모리를 나누지 않는다.
사고를 처음부터 다시 밟는다
설정 파일과 파서, 그리고 진짜 컨트롤 플레인으로 재현할 수 있는 것만.