标签: #rate-limiting
关于 GPU、LLM、MLOps、Kubernetes 以及心态的文章 · 3 篇
限流算法怎么选 — 固定窗口、滑动窗口与令牌桶的真实差别
明明按每分钟 100 次拦着,却放过了 200 次,这不是 bug,而是固定窗口算法被定义好的行为。本文用表格比较固定窗口、滑动日志、滑动窗口计数器、令牌桶这四种做法在内存与精度上的取舍,并用数字把边界问题算清楚。还整理了分布式环境下为什么需要 Redis 的原子操作、按节点做本地限流会带来多大误差、以 IP 作为键会坏在哪里。最后讲怎么用 429 响应配合 Retry-After 和 RateLimit 系列头把状态告诉客户端,以及没
2026-07-26 · 17 分钟阅读 #web#rate-limiting#api-design#redis#reliabilityCloudflare AI Gateway 实战指南: 观测和控制 AI 流量最快的方法
以 2026 年 4 月为基准,从实务角度梳理为什么要用 Cloudflare AI Gateway、能做哪些控制、以及应该如何搭配使用 Dynamic Routing 与自动重试。
2026-04-12 · 9 分钟阅读 #ai-platform#cloudflare#ai-gateway#observability#cachingnginx 配置完全指南:从架构到生产优化的 15 个核心主题
从 nginx 的事件驱动架构和配置结构,到反向代理、负载均衡、SSL/TLS、缓存、Rate Limiting、安全响应头、性能调优、健康检查 —— 用实战示例完整梳理可在生产环境立即落地的 15 项核心配置。
2026-03-01 · 41 分钟阅读 #nginx#reverse-proxy#load-balancing#ssl#tls