标签: #kubernetes
关于 GPU、LLM、MLOps、Kubernetes 以及心态的文章 · 54 篇
KServe 模型服务完全指南:InferenceService、Canary 部署、Transformer、InferenceGraph 生产运维
本文讲解基于 Kubernetes、使用 KServe 进行模型服务的实践。涵盖用 InferenceService CRD 部署模型、用 Canary 策略实现安全上线、用 Transformer 搭建前后处理流水线、用 InferenceGraph 构建基于 DAG 的复合推理,并配合代码给出生产运维策略的落地实现。
2026-03-12 · 22 分钟阅读 #ai-platform#kserve#model-serving#kubernetes#inference-graphKubernetes Gateway API 实战指南:从替代 Ingress 到 HTTPRoute、GRPCRoute、Envoy Gateway 生产部署
讲解如何利用 Kubernetes Gateway API v1.2 的 HTTPRoute、GRPCRoute 与 Envoy Gateway 制定生产部署策略。内容涵盖从 Ingress 的迁移、TLS 终止、流量分割、基于请求头的路由、限流以及监控等一整套实战运维经验。
2026-03-12 · 15 分钟阅读 #kubernetes#gateway-api#httproute#grpcroute#envoy-gatewayArgoCD GitOps 完全指南:用 ApplicationSet·Sync Waves·Hook 实现 Kubernetes 声明式部署
讲解如何用 ArgoCD 实现基于 GitOps 的 Kubernetes 声明式部署。涵盖 ApplicationSet 生成器、用 Sync Waves 与 Hook 控制部署顺序、多集群部署、RBAC、Secret 管理与监控,包含生产运维所需的全部内容。
2026-03-12 · 15 分钟阅读 #devops#argocd#gitops#applicationset#sync-wavesKubeflow Pipelines ML 工作流编排实战指南:从 KFP v2 SDK 到生产部署
以实战为中心讲解如何用 Kubeflow Pipelines 编排 ML 工作流。详细说明 KFP v2 SDK 架构、流水线组件编写、缓存策略、Argo Workflows/Airflow 对比,以及生产环境所需的故障应对策略。
2026-03-11 · 16 分钟阅读 #ai-platform#kubeflow#mlops#pipeline-orchestration#kubernetesKubernetes Network Policy 完全指南:用 Cilium 与 Calico 构建零信任网络安全
从 Kubernetes NetworkPolicy 基础概念到 Cilium CiliumNetworkPolicy(L3-L7 过滤、基于 DNS 的策略、eBPF)与 Calico GlobalNetworkPolicy 的深度对比。涵盖 Default Deny 策略、命名空间隔离模式、基于 Hubble 与 calicoctl 的监控与排障、策略配置错误引发的故障案例与恢复流程,以及生产环境检查清单。
2026-03-11 · 21 分钟阅读 #kubernetes#network-policy#cilium#calico#zero-trustKubernetes RBAC 深度指南:用 Role、ClusterRole 与 OPA Gatekeeper 实现最小权限访问控制
从 Kubernetes RBAC 的核心概念(Role、ClusterRole、RoleBinding、ServiceAccount)到基于 OPA Gatekeeper 的策略化访问控制,提供一份完整的实战指南。内容涵盖最小权限原则的落地、审计日志分析,以及故障案例与恢复流程。
2026-03-10 · 19 分钟阅读 #kubernetes#rbac#opa-gatekeeper#security#access-control用 vCluster 实现 Kubernetes 多租户:虚拟集群隔离与运维指南
基于 vCluster 的 Kubernetes 多租户实现综合指南。以实战为中心讲解虚拟集群架构、与命名空间隔离的对比、Syncer 机制、RBAC 策略、资源配额、网络隔离、基于 Helm 的部署,以及生产环境运维排障。
2026-03-09 · 23 分钟阅读 #kubernetes#vcluster#multi-tenancy#isolation#virtual-cluster用 BentoML 搭建 ML 模型服务流水线:从打包到 Kubernetes 部署
一份关于用 BentoML 做 ML 模型服务的实战指南。涵盖模型打包、API 实现、多模型流水线、Docker 构建,直到 Kubernetes 部署。
2026-03-03 · 7 分钟阅读 #ai-platform#bentoml#model-serving#mlops#kubernetesKubernetes RBAC 完全指南:Golden Kubestronaut 考试备考实战演练
从 Kubernetes RBAC(Role-Based Access Control) 的核心概念到实战场景。使用 Role、ClusterRole、RoleBinding、ServiceAccount 实现最小权限原则,以及 Golden Kubestronaut(CKA+CKS+KCSA) 考试备考实战指南。
2026-03-02 · 9 分钟阅读 #kubernetes#rbac#security#kubestronaut#ckaArgoCD ApplicationSet 与 Progressive Rollout:GitOps 多集群部署实战指南
本文是 GitOps 多集群运维篇。重点讲如何用 ArgoCD ApplicationSet 把环境与集群模板化,并结合 Progressive Sync 与 Argo Rollouts,在大规模环境中运营顺序发布。
2026-03-02 · 9 分钟阅读 #argocd#gitops#applicationset#progressive-rollout#kubernetesTelegram Bot + Webhook 实战指南:从用 Python 造机器人到 Kubernetes 部署
基于 Telegram Bot API 与 Webhook 的聊天机器人开发完全指南。用 python-telegram-bot 和 FastAPI 构建机器人,涵盖 Polling vs Webhook 对比、内联键盘、命令处理器,以及 Kubernetes 部署。
2026-03-02 · 8 分钟阅读 #telegram#bot#webhook#python#chatbotKubernetes ML 模型服务:KServe 与 NVIDIA Triton 完全解析
基于 KServe 与 NVIDIA Triton 官方文档,系统性地分析 Kubernetes 环境下的 ML 模型服务架构。
2026-03-01 · 25 分钟阅读 #mlops#kubernetes#model-serving#kserve#tritonKubernetes AI 训练流水线:Volcano、Training Operator、Kueue 深度分析
基于 Volcano、Kubeflow Training Operator、Kueue 官方文档,分析如何在 Kubernetes 上构建分布式 AI 训练流水线。
2026-03-01 · 26 分钟阅读 #kubernetes#ai#distributed-training#volcano#kubeflowDocker 与 Podman 命令完全指南:把容器运维的一切整理在一页之内
从 Docker 与 Podman 的架构差异,到镜像管理、容器生命周期、网络、卷、Docker Compose 与 Podman Compose 的对比、安全(Rootless)、多阶段构建以及调试 —— 用实战示例系统性地整理容器运维所需的全部命令。
2026-03-01 · 62 分钟阅读 #docker#podman#container#devops#kubernetes