标签: #canary
关于 GPU、LLM、MLOps、Kubernetes 以及心态的文章 · 3 篇
LLMOps 完全指南：模型 · 提示词 · 评测集三轴版本管理、Canary、成本控制、平台团队 (2025)
把 LLM 产品做出来的方法已经变简单了，难的是让它可持续地跑下去。模型 · 提示词 · 评测集的三轴版本管理，Shadow/Canary/Blue-Green 发布，用 token、缓存与模型路由做成本控制，组织结构（AI 平台/Model 平台/Product AI），失败案例，直到 KPI 与 on-call。它是 MLOps 的延长线，同时正面处理 LLM 特有的课题。
2026-04-15 · 15 分钟阅读 #llmops#mlops#devops#canary#cost-controlKServe 模型服务完全指南：InferenceService、Canary 部署、Transformer、InferenceGraph 生产运维
本文讲解基于 Kubernetes、使用 KServe 进行模型服务的实践。涵盖用 InferenceService CRD 部署模型、用 Canary 策略实现安全上线、用 Transformer 搭建前后处理流水线、用 InferenceGraph 构建基于 DAG 的复合推理，并配合代码给出生产运维策略的落地实现。
2026-03-12 · 22 分钟阅读 #ai-platform#kserve#model-serving#kubernetes#inference-graphArgoCD ApplicationSet 与 Progressive Rollout：GitOps 多集群部署实战指南
本文是 GitOps 多集群运维篇。重点讲如何用 ArgoCD ApplicationSet 把环境与集群模板化，并结合 Progressive Sync 与 Argo Rollouts，在大规模环境中运营顺序发布。
2026-03-02 · 9 分钟阅读 #argocd#gitops#applicationset#progressive-rollout#kubernetes