OmniRoute四级自动降级原理Subscription→API→Cheap→FreeAI请求永不掉线【免费下载链接】OmniRouteNever stop coding. Free MIT AI gateway: one endpoint, 350 providers (90 free), 1200 models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline Copilot. Quota-aware auto-fallback, RTKCaveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 450 contributors项目地址: https://gitcode.com/GitHub_Trending/om/OmniRouteOmniRoute 是一款 MIT 协议的免费 AI 网关用「四级自动降级」路由机制统一管理 350 多个提供商、1200 模型Kimi、Claude、GPT、Gemini、GLM、DeepSeek、MiniMax 等并原生适配 Claude Code、Codex、Cursor、OpenCode、Cline、Copilot 等工具。当订阅额度用尽、API 限流或廉价通道失效时它会自动沿Subscription → API → Cheap → Free四级阶梯逐级切换上游保证 AI 请求永不掉线。一图看懂四级自动降级如何工作传统用法是每个 AI 工具各配一把 API Key额度用完就手动换 Key稍不留神 Coding 就中断。OmniRoute 的解法是在所有工具和上游之间加一个智能路由器请求先走你最优质的订阅连接额度见顶后无缝滑向API Key再不够就切到廉价通道Cheap最后落到**免费额度Free**兜底——全程无需人工干预。路由入口是一个本地 OpenAI 兼容端点默认http://localhost:20128/v1你的 IDE 或 CLI 只需要把 Base URL 指过来降级、熔断、重试全部发生在网关内部。四级阶梯详解每一级耗尽的信号都不同关键洞察降级不是简单按价格排序而是每一级都有自己独立的耗尽判定信号——这正是 OmniRoute 降级体系区别于普通负载均衡的核心。四级阶梯的完整设计详见 docs/routing/SUBSCRIPTION_LADDER.md。级别通道何时判定耗尽Tier 1Subscription 订阅配额窗口触及截止线如 Claude Code / Copilot 套餐配额Tier 2API Key 按量触发限流 429 或熔断器打开Tier 3Cheap 廉价该档位预算budget被消耗完Tier 4Free 免费免费额度用尽始终常驻兜底Subscription 级网关维护一份人工策展的连接计费目录open-sse/config/connectionBillingCatalog.ts逐连接判断这个模型在我这条连接上到底收不收费——同一个模型走订阅连接是套餐内含走 API Key 连接则按 Token 计费。Cheap / Free 级订阅和 API 级有真实配额可观测而付费档没有额度概念因此用每档预算上限作为耗尽信号没有信号就无法谈升级。请求内兜底即使预检没拦住额度运行中的请求失败后也会沿阶梯继续向下穿透投机式重试循环失败先分类再决定重试策略详见 docs/OMNIROUTE_PROVIDER_FAILOVER.md——超时、限流、5xx 可回退鉴权错误则不会盲目重试。三个工程细节让永不掉线真正成立1️⃣ 配额感知 健康度持续探测网关对每个连接持续做配额遥测docs/OMNIROUTE_QUOTA_TELEMETRY.md候选池构建时按实时健康度动态打分配额耗尽、熔断打开的候选直接出局未知配额保持中性分路由决策完全可解释。2️⃣ 防抖滞回带Anti-flap如果额度在截止线附近徘徊请求会在两档之间反复横跳。OmniRoute 用退出截止 2%、重新准入需剩余 5%的滞回带解决震荡——正在使用的连接只要剩余额度高于 2% 就继续服务而刚重置的档位必须回到 5% 以上才重新入池。3️⃣ 额度重置后自动升回去很多网关一旦掉到免费档就再也不回来了。OmniRoute 做到三件事同时失效才算可回切配额状态缓存180 秒 TTL的resetAt一旦过期立即强制刷新、阶梯本身不保存任何状态每次建池都从实时配额重算不存在卡在第 3 档、连接冷却时间被钳制到上游真实重置时刻。订阅套餐午夜一重置下一个请求立刻回到 Tier 1一分钱不多花。最快上手两条命令体验四级降级仓库 clone 下来即可本地运行git clone https://gitcode.com/GitHub_Trending/om/OmniRoute cd OmniRoute npm install npm start启动后在任意 AI 工具的配置里把端点指向http://localhost:20128/v1然后通过两个虚拟模型 ID选择降级风格均为按需启用不影响现有配置模型 ID行为适合谁auto/thrifty全阶梯subscription → keyless → free → cheap → premium耗尽一级升一级想让订阅额度一分都别浪费的用户auto/subscription只走订阅连接额度用尽即明确报错fail-closed预算严格管控、绝不允许意外扣费的用户两者都支持与类别组合例如auto/coding:thrifty。路由决策完全透明——调用POST /api/omniroute/route/preview即可看到每个候选的得分、因子和落选原因且零上游真实请求见 docs/OMNIROUTE_ROUTING_POLICY.md。在仪表盘里观察降级过程Health 面板实时查看每个连接的配额窗口、熔断状态与重置倒计时降级发生时一眼就能看清谁顶上了。Analytics 面板统计各档位的用量与节省金额验证降级是否真的帮你省钱。Compos 面板调整组合内的通道顺序与预算参数。常见问题 FAQQ1降级是掉线重连吗不是。降级发生在网关内部对客户端是一个连续流式响应即使某一级在请求中途失败投机式重试也会在同一次请求内切换到下一级。Q2免费档会不会有质量落差Free 级同样进入评分体系由模型偏好、可靠性等因子共同决定最终选择且搭配 RTK Caveman 压缩节省 15–95% Token后免费额度的可用性被进一步放大。Q3如何确保绝不意外扣费使用auto/subscription时所有未策展、配额不可验证、超额会转为计费的连接都会被排除池子为空时返回明确错误而不是悄悄切到付费通道。总结OmniRoute 的四级自动降级Subscription→API→Cheap→Free本质是一套配额感知 逐档预算 防抖回切的可靠性系统它让订阅额度被最大化利用API 限流被自动绕行免费额度成为永不断线的最后防线。配合 19 种路由策略、MCP/A2A 与本地优先的加密存储它是个人开发者和团队一个端点跑通所有 AI 工具的高性价比基础设施。四级阶梯设计docs/routing/SUBSCRIPTION_LADDER.md失败分类与回退策略docs/OMNIROUTE_PROVIDER_FAILOVER.md路由评分与预览docs/OMNIROUTE_ROUTING_POLICY.md功能发布记录changelog.d/features/11146-subscription-first-routing.md【免费下载链接】OmniRouteNever stop coding. Free MIT AI gateway: one endpoint, 350 providers (90 free), 1200 models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline Copilot. Quota-aware auto-fallback, RTKCaveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 450 contributors项目地址: https://gitcode.com/GitHub_Trending/om/OmniRoute创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 
长河君 · 2026/8/29 9:52:57 · 阅读 1.2k OmniRoute四级自动降级原理：Subscription→API→Cheap→Free，AI请求永不掉线
OmniRoute四级自动降级原理Subscription→API→Cheap→FreeAI请求永不掉线【免费下载链接】OmniRouteNever stop coding. Free MIT AI gateway: one endpoint, 350 providers (90 free), 1200 models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline Copilot. Quota-aware auto-fallback, RTKCaveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 450 contributors项目地址: https://gitcode.com/GitHub_Trending/om/OmniRouteOmniRoute 是一款 MIT 协议的免费 AI 网关用「四级自动降级」路由机制统一管理 350 多个提供商、1200 模型Kimi、Claude、GPT、Gemini、GLM、DeepSeek、MiniMax 等并原生适配 Claude Code、Codex、Cursor、OpenCode、Cline、Copilot 等工具。当订阅额度用尽、API 限流或廉价通道失效时它会自动沿Subscription → API → Cheap → Free四级阶梯逐级切换上游保证 AI 请求永不掉线。一图看懂四级自动降级如何工作传统用法是每个 AI 工具各配一把 API Key额度用完就手动换 Key稍不留神 Coding 就中断。OmniRoute 的解法是在所有工具和上游之间加一个智能路由器请求先走你最优质的订阅连接额度见顶后无缝滑向API Key再不够就切到廉价通道Cheap最后落到**免费额度Free**兜底——全程无需人工干预。路由入口是一个本地 OpenAI 兼容端点默认http://localhost:20128/v1你的 IDE 或 CLI 只需要把 Base URL 指过来降级、熔断、重试全部发生在网关内部。四级阶梯详解每一级耗尽的信号都不同关键洞察降级不是简单按价格排序而是每一级都有自己独立的耗尽判定信号——这正是 OmniRoute 降级体系区别于普通负载均衡的核心。四级阶梯的完整设计详见 docs/routing/SUBSCRIPTION_LADDER.md。级别通道何时判定耗尽Tier 1Subscription 订阅配额窗口触及截止线如 Claude Code / Copilot 套餐配额Tier 2API Key 按量触发限流 429 或熔断器打开Tier 3Cheap 廉价该档位预算budget被消耗完Tier 4Free 免费免费额度用尽始终常驻兜底Subscription 级网关维护一份人工策展的连接计费目录open-sse/config/connectionBillingCatalog.ts逐连接判断这个模型在我这条连接上到底收不收费——同一个模型走订阅连接是套餐内含走 API Key 连接则按 Token 计费。Cheap / Free 级订阅和 API 级有真实配额可观测而付费档没有额度概念因此用每档预算上限作为耗尽信号没有信号就无法谈升级。请求内兜底即使预检没拦住额度运行中的请求失败后也会沿阶梯继续向下穿透投机式重试循环失败先分类再决定重试策略详见 docs/OMNIROUTE_PROVIDER_FAILOVER.md——超时、限流、5xx 可回退鉴权错误则不会盲目重试。三个工程细节让永不掉线真正成立1️⃣ 配额感知 健康度持续探测网关对每个连接持续做配额遥测docs/OMNIROUTE_QUOTA_TELEMETRY.md候选池构建时按实时健康度动态打分配额耗尽、熔断打开的候选直接出局未知配额保持中性分路由决策完全可解释。2️⃣ 防抖滞回带Anti-flap如果额度在截止线附近徘徊请求会在两档之间反复横跳。OmniRoute 用退出截止 2%、重新准入需剩余 5%的滞回带解决震荡——正在使用的连接只要剩余额度高于 2% 就继续服务而刚重置的档位必须回到 5% 以上才重新入池。3️⃣ 额度重置后自动升回去很多网关一旦掉到免费档就再也不回来了。OmniRoute 做到三件事同时失效才算可回切配额状态缓存180 秒 TTL的resetAt一旦过期立即强制刷新、阶梯本身不保存任何状态每次建池都从实时配额重算不存在卡在第 3 档、连接冷却时间被钳制到上游真实重置时刻。订阅套餐午夜一重置下一个请求立刻回到 Tier 1一分钱不多花。最快上手两条命令体验四级降级仓库 clone 下来即可本地运行git clone https://gitcode.com/GitHub_Trending/om/OmniRoute cd OmniRoute npm install npm start启动后在任意 AI 工具的配置里把端点指向http://localhost:20128/v1然后通过两个虚拟模型 ID选择降级风格均为按需启用不影响现有配置模型 ID行为适合谁auto/thrifty全阶梯subscription → keyless → free → cheap → premium耗尽一级升一级想让订阅额度一分都别浪费的用户auto/subscription只走订阅连接额度用尽即明确报错fail-closed预算严格管控、绝不允许意外扣费的用户两者都支持与类别组合例如auto/coding:thrifty。路由决策完全透明——调用POST /api/omniroute/route/preview即可看到每个候选的得分、因子和落选原因且零上游真实请求见 docs/OMNIROUTE_ROUTING_POLICY.md。在仪表盘里观察降级过程Health 面板实时查看每个连接的配额窗口、熔断状态与重置倒计时降级发生时一眼就能看清谁顶上了。Analytics 面板统计各档位的用量与节省金额验证降级是否真的帮你省钱。Compos 面板调整组合内的通道顺序与预算参数。常见问题 FAQQ1降级是掉线重连吗不是。降级发生在网关内部对客户端是一个连续流式响应即使某一级在请求中途失败投机式重试也会在同一次请求内切换到下一级。Q2免费档会不会有质量落差Free 级同样进入评分体系由模型偏好、可靠性等因子共同决定最终选择且搭配 RTK Caveman 压缩节省 15–95% Token后免费额度的可用性被进一步放大。Q3如何确保绝不意外扣费使用auto/subscription时所有未策展、配额不可验证、超额会转为计费的连接都会被排除池子为空时返回明确错误而不是悄悄切到付费通道。总结OmniRoute 的四级自动降级Subscription→API→Cheap→Free本质是一套配额感知 逐档预算 防抖回切的可靠性系统它让订阅额度被最大化利用API 限流被自动绕行免费额度成为永不断线的最后防线。配合 19 种路由策略、MCP/A2A 与本地优先的加密存储它是个人开发者和团队一个端点跑通所有 AI 工具的高性价比基础设施。四级阶梯设计docs/routing/SUBSCRIPTION_LADDER.md失败分类与回退策略docs/OMNIROUTE_PROVIDER_FAILOVER.md路由评分与预览docs/OMNIROUTE_ROUTING_POLICY.md功能发布记录changelog.d/features/11146-subscription-first-routing.md【免费下载链接】OmniRouteNever stop coding. Free MIT AI gateway: one endpoint, 350 providers (90 free), 1200 models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline Copilot. Quota-aware auto-fallback, RTKCaveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 450 contributors项目地址: https://gitcode.com/GitHub_Trending/om/OmniRoute创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考