标签: #cost-control

한국어English日本語中文

← 全部文章

• LLMOps 完全指南：模型 · 提示词 · 评测集三轴版本管理、Canary、成本控制、平台团队 (2025)

  把 LLM 产品做出来的方法已经变简单了，难的是让它可持续地跑下去。模型 · 提示词 · 评测集的三轴版本管理，Shadow/Canary/Blue-Green 发布，用 token、缓存与模型路由做成本控制，组织结构（AI 平台/Model 平台/Product AI），失败案例，直到 KPI 与 on-call。它是 MLOps 的延长线，同时正面处理 LLM 特有的课题。

  2026-04-15 · 15 分钟阅读 #llmops#mlops#devops#canary#cost-control

• Cloudflare AI Gateway 实战指南: 观测和控制 AI 流量最快的方法

  以 2026 年 4 月为基准，从实务角度梳理为什么要用 Cloudflare AI Gateway、能做哪些控制、以及应该如何搭配使用 Dynamic Routing 与自动重试。

  2026-04-12 · 9 分钟阅读 #ai-platform#cloudflare#ai-gateway#observability#caching