标签:限流2
标签:限流
清除全部条件
按标签筛选:限流共 18 个标签
置顶报告优先,其余按文档日期排序。
-
v4.1
全局限流(Global Rate Limiting)最佳实践研究报告
全局限流首先是共享容量与业务风险的治理问题,其次是分布式协调问题,最后才是算法实现问题。 多实例、多集群、高并发均不是必须建设全局限流的充分理由。应依次回答三个问题:是否确有过载风险需要控制;是否需要跨执行点协调;是否值得把若干场景的平台能力统一化。
-
v5.5
业界模型网关演进调研报告
模型网关已从应用直连演进为同时治理模型、MCP 工具与 Agent 的 AI 原生网关层。建议以统一契约入口、确定性路由、计量采集与预算前置为一期底座,并把安全基线和网关自身韧性前置;额度难点在并发一致性,而不在计费算式。私有化多算力池场景须另立打法:新增选副本层,并做准入与优先级队列,计价口径重新定义。本版已更新至 2026-10-17 的产品与协议事实。文中机制为设计建议,尚无运行验证证据。