태그: #NVLink
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 2 편
GPU 하드웨어·드라이버 장애 진단
DCGM 지표, XID 코드, ECC·NVLink·스로틀링·PCIe 강등, 느린 GPU 하나가 전체를 늦추는 현상을 NVIDIA 공식 문서 기준으로 정리하고 쿠버네티스의 격리·자동 복구·알림 설계로 잇습니다. 필자의 실험 환경은 소비자용 GPU 뿐이라 XID·ECC 장애를 겪은 기록이 없으며, 소비자용 GPU 에서 지표가 빠지는 모습을 실측 출력으로 보여 줍니다.
2026-10-06 · 32 분 읽기 #DCGM#XID#ECC#NVLink#스로틀링RDMA와 NCCL로 읽는 GPU 네트워크: InfiniBand, RoCE, 쿠버네티스 배치
GPU 서버 안팎의 통신 계층과 대역폭 차이를 정리하고, InfiniBand 와 RoCE v2 의 차이, GPUDirect RDMA, NCCL 의 동작과 측정법, 흔한 장애를 설명합니다. 마지막으로 쿠버네티스에서 RDMA 를 쓰는 구성 요소를 정리하고 추론에서 RDMA 가 필요한 지점을 6편과 연결합니다.
2026-10-06 · 41 분 읽기 #RDMA#InfiniBand#RoCE#NCCL#GPUDirect