1. Ox Alpha 匿名上线 OpenRouter 到底测什么1M 上下文长文本压测与 GPT-5.6 对比的完整复现思路Ox Alpha 是近期在 OpenRouter 上以 stealth 命名匿名出现的一个模型最直观的特点是上下文窗口标称到 105 万 token同时支持文本、图像、视频输入并且当前阶段可以零成本调用。它能做的事情很具体把一整个中型代码仓库塞进一次请求里做重构建议把一段几十分钟的录屏丢进去让它定位前端交互问题或者把几十份文档合并后做跨文档问答。适合谁适合手里有长上下文刚需、又不想先掏钱买配额的后端、算法和全栈开发者尤其是正在做 RAG 切片方案、想验证「不切片直接喂」到底行不行的那批人。我这次要复现的核心不是「它是不是 GLM」这种身份猜测而是两件可量化的事第一1M 上下文在真实长文本下是否稳定不截断、不丢中间信息第二在同样的编码与代理任务上它的输出质量和 GPT-5.6 相比处在什么位置。为了让对比可控我用 TaoToken 的统一 Key 作为接入层Base URL 指向https://taotoken.net/api这样 Ox Alpha 和 GPT-5.6 走同一套 OpenAI 兼容协议脚本只改 model 字段就能切换避免因为 SDK 差异导致结果不可比。需要先说明一个前提匿名模型的能力会随平台侧配置调整跑分只代表你测试那一刻的状态。所以下面给的是一套可重复执行的压测流程而不是一个写死的结论。你按步骤跑完得到的数字才是你自己的结论。官网入口在 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content 注册后拿 Key 的路径我放在第二节。长上下文测试最容易踩的坑是「以为喂进去了其实被静默截断」。所以压测脚本必须做两件事一是构造可校验的 needle埋点二是统计返回的 usage 字段里 prompt_tokens 是否和预期接近。只测「能不能返回」没有意义要测「中间那段还在不在」。2. TaoToken 统一 Key 前置准备Base URL、模型 ID 与 Coding Plan 选择这一节把接入层搭好。TaoToken 在这里的角色是统一网关你只维护一个 Key就能在 Ox Alpha、GPT-5.6 以及其他模型之间切换Base URL 固定为https://taotoken.net/api协议是 OpenAI 兼容的/v1/chat/completions。对压测来说这点很关键因为对比实验最怕变量不干净统一入口后唯一的变量就是 model 字段。先拿 Key。打开 https://taotoken.net/api-keys 登录后创建一个新 Key复制出来存到环境变量不要写进代码仓库。如果你打算长期跑编码类 Agent 任务比如让模型反复读整个仓库、做多轮重构建议同时看一下 Coding Plan 页面 https://taotoken.net/coding-plan 按调用量选套餐比按次付费更划算只是临时复现这次对比用默认额度就够。模型 ID 的写法要注意OpenRouter 上的匿名模型通常带前缀比如stealth/ox-alpha这类形式。在 TaoToken 里调用时model 字段填平台文档里给出的对应 ID。如果你不确定当前可用的准确 ID最稳的办法是先去模型对话页 https://taotoken.net/chat 手动选一次模型发一条消息再从请求详情里看它实际用的 model 名然后原样抄进脚本。这一步能省掉大量 404 model not found 的排查时间。环境变量这样设Linux/macOS 用export TAOTOKEN_API_KEYsk-你的key export TAOTOKEN_BASE_URLhttps://taotoken.net/apiWindows PowerShell 用$env:TAOTOKEN_API_KEYsk-你的key $env:TAOTOKEN_BASE_URLhttps://taotoken.net/api如果你用 Claude Code 这类工具做长上下文编码配置文件和上面是同一套三件套Base URL、Key、Model ID。以 settings 片段为例路径按你本机实际安装位置放{ env: { ANTHROPIC_BASE_URL: https://taotoken.net/api, ANTHROPIC_API_KEY: sk-你的key, ANTHROPIC_MODEL: stealth/ox-alpha } }注意这里 Base URL 不带任何查询参数Key 走环境变量或配置文件都行但别同时写两处导致覆盖混乱。配完先别急着跑压测下一节先用一个最小请求确认链路通。3. 可复制配置1M 上下文压测脚本与参数对照这一节给能直接跑的代码。核心思路是构造一个「大海捞针」测试在约 80 万到 100 万 token 的填充文本中间埋入一句唯一可识别的指令然后问模型那句话是什么。如果模型能准确复述说明中间段没有被截断或丢弃。先装依赖pip install openai tiktoken压测脚本longctx_probe.pyimport os from openai import OpenAI client OpenAI( api_keyos.environ[TAOTOKEN_API_KEY], base_urlos.environ[TAOTOKEN_BASE_URL], ) NEEDLE 紫色犀牛在第七码头等你暗号是 8841。 FILLER 这是一段用于填充上下文的普通技术说明文字内容本身没有特殊含义。 * 40 def build_prompt(repeat): # 把 needle 放在中间位置前后各一半填充 half FILLER * (repeat // 2) return half \n NEEDLE \n half def run(model, repeat): prompt build_prompt(repeat) resp client.chat.completions.create( modelmodel, messages[ {role: system, content: 你是一个精确的信息检索助手只回答用户问的那句话。}, {role: user, content: prompt \n\n问题上面文本中间埋入的那句暗号是什么原样复述。}, ], temperature0, max_tokens200, ) usage resp.usage print(fmodel{model} repeat{repeat} prompt_tokens{usage.prompt_tokens} fcompletion_tokens{usage.completion_tokens}) print(answer:, resp.choices[0].message.content.strip()[:200]) return resp if __name__ __main__: import sys model sys.argv[1] if len(sys.argv) 1 else stealth/ox-alpha repeat int(sys.argv[2]) if len(sys.argv) 2 else 2000 run(model, repeat)跑法python longctx_probe.py stealth/ox-alpha 2000 python longctx_probe.py gpt-5.6 2000repeat是填充倍数2000 大概对应几十万 token你可以逐步加到 8000 甚至更高去逼近 1M。每次跑完看prompt_tokens是否随 repeat 线性增长如果增长到某个点后不再变说明平台侧有硬上限这就是你要记录的第一个结论。参数对照表方便你调参数建议值说明temperature0压测要可复现别引入随机性max_tokens200只验证复述不需要长输出repeat2000 起逐步翻倍逼近上限needle 位置正中间最能暴露中间信息丢失注意填充文本用重复字符串是为了让 token 数可预测但真实场景里语义密度更高token 消耗会更快。压测结论要结合真实语料再验一次。如果你更习惯用 TOML 管理配置比如给某个 CLI 工具用[provider] base_url https://taotoken.net/api api_key_env TAOTOKEN_API_KEY model stealth/ox-alpha max_context_tokens 1000000三件套齐了Base URL、Key、Model ID。缺任何一个都会在下一节报错。4. 验证请求与成功结果从 usage 字段到跑分对照先跑最小连通性请求确认 Key 和 Base URL 没问题curl https://taotoken.net/api/v1/chat/completions \ -H Authorization: Bearer $TAOTOKEN_API_KEY \ -H Content-Type: application/json \ -d { model: stealth/ox-alpha, messages: [{role: user, content: 回复两个字通了}], max_tokens: 20 }返回里能看到choices[0].message.content是「通了」同时usage.prompt_tokens是个小数字说明链路正常。这一步过了再跑压测脚本。成功的长上下文结果长这样prompt_tokens接近你构造的规模answer里准确出现「紫色犀牛在第七码头等你暗号是 8841」。如果 answer 是「文本中没有找到」或者复述了错误的句子说明中间段被丢了这时候把 repeat 减半再试找到它开始丢信息的临界点这个临界点比标称的 105 万更有参考价值。跑分对照我建议固定三个任务每个任务两个模型各跑三次取中位数任务输入评判标准长文本检索上面脚本是否准确复述 needle整库重构一个 5 万行左右仓库打包给出的改动是否可编译、是否漏文件代理多步一个需要 5 步以上工具调用的任务是否完成全部步骤、有无中途放弃实测下来Ox Alpha 在长文本检索和整库重构上表现稳定1M 窗口下中间信息保留得不错GPT-5.6 在代理多步任务上的步骤规划更紧凑但长上下文成本更高。这个差异不是绝对的你按自己的任务类型加权。提示跑整库重构时把仓库文件按路径排序后拼接并在每个文件前加### FILE: path标记方便模型引用具体文件也方便你核对它有没有漏。验证阶段还要看一个指标缓存命中。如果你反复用同一段长前缀做多轮提问观察usage里是否有 cached tokens 字段。命中率高意味着多轮长上下文对话的实际成本会明显下降这对「整库问答」这种场景很关键。5. 本篇常见错排查401、local proxy failed、reading choices、OAuth压测过程中最容易撞的几类报错逐个说清楚。401 Unauthorized。九成是 Key 没读到。先确认环境变量真的导出了echo $TAOTOKEN_API_KEY应该有值。如果你在 IDE 里跑脚本IDE 可能没继承 shell 的环境变量改成在脚本里显式读取配置文件或者重启 IDE。还有一种情况是 Key 复制时带了空格或换行重新复制一次。local proxy failed。这个报错通常出现在你本机配了某个转发工具、但目标地址写错或没启动。排查顺序先确认TAOTOKEN_BASE_URL就是https://taotoken.net/api没有多余路径再确认本机没有残留的代理环境变量干扰echo $HTTP_PROXY $HTTPS_PROXY看看如果有就临时清掉再跑。注意不要用任何非正规的网络转发手段直连官方地址即可。reading choices 相关报错比如KeyError: choices或reading choices。这几乎都是返回体不是标准结构导致的常见原因是 model ID 写错平台返回了一个错误对象而不是正常响应。解决办法把原始响应print(resp)打出来看如果是{error: ...}按里面的 message 改 model 名。另一个原因是max_tokens设得比模型上限还大被拒。OAuth 相关报错。如果你用的是 Claude Code 这类工具它默认可能走 OAuth 登录流程而你配的是 API Key两者会冲突。处理方式是在配置文件里明确用 API Key 字段并确保没有残留的 OAuth token 文件。三件套再确认一遍Base URL 是https://taotoken.net/apiKey 是sk-开头Model ID 和平台文档一致。三个都对还报错就去接入文档页对照最新字段名字段名偶尔会调整。还有一个隐蔽的坑长上下文请求超时。1M token 的请求处理时间可能到分钟级客户端默认超时往往只有 60 秒。在 OpenAI SDK 里显式调大client OpenAI( api_keyos.environ[TAOTOKEN_API_KEY], base_urlos.environ[TAOTOKEN_BASE_URL], timeout600, )超时被误判成失败会让你以为模型不支持长上下文其实是客户端先断了。6. 把结论跑成自己的接入文档、模型对话与长期编码的分流建议复现这件事的价值在于你得到的数字是在你自己的网络、你自己的语料、你调用那一刻的平台状态下产生的比任何二手跑分都可信。所以最后给的是分流路径而不是一个替你下的结论。如果你卡在接入环节401、超时、model ID 对不上这类问题直接去接入文档页 https://taotoken.net/doc 对照字段再去 API Keys 页 https://taotoken.net/api-keys 重新生成一个 Key 试两步基本能定位。如果你只是想快速验证某个模型在某个任务上的表现不想写脚本用模型对话页 https://taotoken.net/chat 手动贴长文本试虽然不能自动化但胜在零配置适合先探路。如果你确认要长期跑整库重构、多轮 Agent 这类高消耗任务按调用量选 Coding Plan https://taotoken.net/coding-plan 更稳避免临时额度用尽打断实验。压测脚本本身可以留着把 model 字段做成命令行参数以后每上一个新模型跑一遍同样的三任务对照你就有了一条自己的模型能力时间线。这比追每一次匿名上线都更有积累价值。 
长河君 · 2026/10/3 19:23:57 · 阅读 1.2k Ox Alpha匿名上线OpenRouter实测：1M上下文性能跑分与GPT-5.6对比，TaoToken统一Key接入复现
1. Ox Alpha 匿名上线 OpenRouter 到底测什么1M 上下文长文本压测与 GPT-5.6 对比的完整复现思路Ox Alpha 是近期在 OpenRouter 上以 stealth 命名匿名出现的一个模型最直观的特点是上下文窗口标称到 105 万 token同时支持文本、图像、视频输入并且当前阶段可以零成本调用。它能做的事情很具体把一整个中型代码仓库塞进一次请求里做重构建议把一段几十分钟的录屏丢进去让它定位前端交互问题或者把几十份文档合并后做跨文档问答。适合谁适合手里有长上下文刚需、又不想先掏钱买配额的后端、算法和全栈开发者尤其是正在做 RAG 切片方案、想验证「不切片直接喂」到底行不行的那批人。我这次要复现的核心不是「它是不是 GLM」这种身份猜测而是两件可量化的事第一1M 上下文在真实长文本下是否稳定不截断、不丢中间信息第二在同样的编码与代理任务上它的输出质量和 GPT-5.6 相比处在什么位置。为了让对比可控我用 TaoToken 的统一 Key 作为接入层Base URL 指向https://taotoken.net/api这样 Ox Alpha 和 GPT-5.6 走同一套 OpenAI 兼容协议脚本只改 model 字段就能切换避免因为 SDK 差异导致结果不可比。需要先说明一个前提匿名模型的能力会随平台侧配置调整跑分只代表你测试那一刻的状态。所以下面给的是一套可重复执行的压测流程而不是一个写死的结论。你按步骤跑完得到的数字才是你自己的结论。官网入口在 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content 注册后拿 Key 的路径我放在第二节。长上下文测试最容易踩的坑是「以为喂进去了其实被静默截断」。所以压测脚本必须做两件事一是构造可校验的 needle埋点二是统计返回的 usage 字段里 prompt_tokens 是否和预期接近。只测「能不能返回」没有意义要测「中间那段还在不在」。2. TaoToken 统一 Key 前置准备Base URL、模型 ID 与 Coding Plan 选择这一节把接入层搭好。TaoToken 在这里的角色是统一网关你只维护一个 Key就能在 Ox Alpha、GPT-5.6 以及其他模型之间切换Base URL 固定为https://taotoken.net/api协议是 OpenAI 兼容的/v1/chat/completions。对压测来说这点很关键因为对比实验最怕变量不干净统一入口后唯一的变量就是 model 字段。先拿 Key。打开 https://taotoken.net/api-keys 登录后创建一个新 Key复制出来存到环境变量不要写进代码仓库。如果你打算长期跑编码类 Agent 任务比如让模型反复读整个仓库、做多轮重构建议同时看一下 Coding Plan 页面 https://taotoken.net/coding-plan 按调用量选套餐比按次付费更划算只是临时复现这次对比用默认额度就够。模型 ID 的写法要注意OpenRouter 上的匿名模型通常带前缀比如stealth/ox-alpha这类形式。在 TaoToken 里调用时model 字段填平台文档里给出的对应 ID。如果你不确定当前可用的准确 ID最稳的办法是先去模型对话页 https://taotoken.net/chat 手动选一次模型发一条消息再从请求详情里看它实际用的 model 名然后原样抄进脚本。这一步能省掉大量 404 model not found 的排查时间。环境变量这样设Linux/macOS 用export TAOTOKEN_API_KEYsk-你的key export TAOTOKEN_BASE_URLhttps://taotoken.net/apiWindows PowerShell 用$env:TAOTOKEN_API_KEYsk-你的key $env:TAOTOKEN_BASE_URLhttps://taotoken.net/api如果你用 Claude Code 这类工具做长上下文编码配置文件和上面是同一套三件套Base URL、Key、Model ID。以 settings 片段为例路径按你本机实际安装位置放{ env: { ANTHROPIC_BASE_URL: https://taotoken.net/api, ANTHROPIC_API_KEY: sk-你的key, ANTHROPIC_MODEL: stealth/ox-alpha } }注意这里 Base URL 不带任何查询参数Key 走环境变量或配置文件都行但别同时写两处导致覆盖混乱。配完先别急着跑压测下一节先用一个最小请求确认链路通。3. 可复制配置1M 上下文压测脚本与参数对照这一节给能直接跑的代码。核心思路是构造一个「大海捞针」测试在约 80 万到 100 万 token 的填充文本中间埋入一句唯一可识别的指令然后问模型那句话是什么。如果模型能准确复述说明中间段没有被截断或丢弃。先装依赖pip install openai tiktoken压测脚本longctx_probe.pyimport os from openai import OpenAI client OpenAI( api_keyos.environ[TAOTOKEN_API_KEY], base_urlos.environ[TAOTOKEN_BASE_URL], ) NEEDLE 紫色犀牛在第七码头等你暗号是 8841。 FILLER 这是一段用于填充上下文的普通技术说明文字内容本身没有特殊含义。 * 40 def build_prompt(repeat): # 把 needle 放在中间位置前后各一半填充 half FILLER * (repeat // 2) return half \n NEEDLE \n half def run(model, repeat): prompt build_prompt(repeat) resp client.chat.completions.create( modelmodel, messages[ {role: system, content: 你是一个精确的信息检索助手只回答用户问的那句话。}, {role: user, content: prompt \n\n问题上面文本中间埋入的那句暗号是什么原样复述。}, ], temperature0, max_tokens200, ) usage resp.usage print(fmodel{model} repeat{repeat} prompt_tokens{usage.prompt_tokens} fcompletion_tokens{usage.completion_tokens}) print(answer:, resp.choices[0].message.content.strip()[:200]) return resp if __name__ __main__: import sys model sys.argv[1] if len(sys.argv) 1 else stealth/ox-alpha repeat int(sys.argv[2]) if len(sys.argv) 2 else 2000 run(model, repeat)跑法python longctx_probe.py stealth/ox-alpha 2000 python longctx_probe.py gpt-5.6 2000repeat是填充倍数2000 大概对应几十万 token你可以逐步加到 8000 甚至更高去逼近 1M。每次跑完看prompt_tokens是否随 repeat 线性增长如果增长到某个点后不再变说明平台侧有硬上限这就是你要记录的第一个结论。参数对照表方便你调参数建议值说明temperature0压测要可复现别引入随机性max_tokens200只验证复述不需要长输出repeat2000 起逐步翻倍逼近上限needle 位置正中间最能暴露中间信息丢失注意填充文本用重复字符串是为了让 token 数可预测但真实场景里语义密度更高token 消耗会更快。压测结论要结合真实语料再验一次。如果你更习惯用 TOML 管理配置比如给某个 CLI 工具用[provider] base_url https://taotoken.net/api api_key_env TAOTOKEN_API_KEY model stealth/ox-alpha max_context_tokens 1000000三件套齐了Base URL、Key、Model ID。缺任何一个都会在下一节报错。4. 验证请求与成功结果从 usage 字段到跑分对照先跑最小连通性请求确认 Key 和 Base URL 没问题curl https://taotoken.net/api/v1/chat/completions \ -H Authorization: Bearer $TAOTOKEN_API_KEY \ -H Content-Type: application/json \ -d { model: stealth/ox-alpha, messages: [{role: user, content: 回复两个字通了}], max_tokens: 20 }返回里能看到choices[0].message.content是「通了」同时usage.prompt_tokens是个小数字说明链路正常。这一步过了再跑压测脚本。成功的长上下文结果长这样prompt_tokens接近你构造的规模answer里准确出现「紫色犀牛在第七码头等你暗号是 8841」。如果 answer 是「文本中没有找到」或者复述了错误的句子说明中间段被丢了这时候把 repeat 减半再试找到它开始丢信息的临界点这个临界点比标称的 105 万更有参考价值。跑分对照我建议固定三个任务每个任务两个模型各跑三次取中位数任务输入评判标准长文本检索上面脚本是否准确复述 needle整库重构一个 5 万行左右仓库打包给出的改动是否可编译、是否漏文件代理多步一个需要 5 步以上工具调用的任务是否完成全部步骤、有无中途放弃实测下来Ox Alpha 在长文本检索和整库重构上表现稳定1M 窗口下中间信息保留得不错GPT-5.6 在代理多步任务上的步骤规划更紧凑但长上下文成本更高。这个差异不是绝对的你按自己的任务类型加权。提示跑整库重构时把仓库文件按路径排序后拼接并在每个文件前加### FILE: path标记方便模型引用具体文件也方便你核对它有没有漏。验证阶段还要看一个指标缓存命中。如果你反复用同一段长前缀做多轮提问观察usage里是否有 cached tokens 字段。命中率高意味着多轮长上下文对话的实际成本会明显下降这对「整库问答」这种场景很关键。5. 本篇常见错排查401、local proxy failed、reading choices、OAuth压测过程中最容易撞的几类报错逐个说清楚。401 Unauthorized。九成是 Key 没读到。先确认环境变量真的导出了echo $TAOTOKEN_API_KEY应该有值。如果你在 IDE 里跑脚本IDE 可能没继承 shell 的环境变量改成在脚本里显式读取配置文件或者重启 IDE。还有一种情况是 Key 复制时带了空格或换行重新复制一次。local proxy failed。这个报错通常出现在你本机配了某个转发工具、但目标地址写错或没启动。排查顺序先确认TAOTOKEN_BASE_URL就是https://taotoken.net/api没有多余路径再确认本机没有残留的代理环境变量干扰echo $HTTP_PROXY $HTTPS_PROXY看看如果有就临时清掉再跑。注意不要用任何非正规的网络转发手段直连官方地址即可。reading choices 相关报错比如KeyError: choices或reading choices。这几乎都是返回体不是标准结构导致的常见原因是 model ID 写错平台返回了一个错误对象而不是正常响应。解决办法把原始响应print(resp)打出来看如果是{error: ...}按里面的 message 改 model 名。另一个原因是max_tokens设得比模型上限还大被拒。OAuth 相关报错。如果你用的是 Claude Code 这类工具它默认可能走 OAuth 登录流程而你配的是 API Key两者会冲突。处理方式是在配置文件里明确用 API Key 字段并确保没有残留的 OAuth token 文件。三件套再确认一遍Base URL 是https://taotoken.net/apiKey 是sk-开头Model ID 和平台文档一致。三个都对还报错就去接入文档页对照最新字段名字段名偶尔会调整。还有一个隐蔽的坑长上下文请求超时。1M token 的请求处理时间可能到分钟级客户端默认超时往往只有 60 秒。在 OpenAI SDK 里显式调大client OpenAI( api_keyos.environ[TAOTOKEN_API_KEY], base_urlos.environ[TAOTOKEN_BASE_URL], timeout600, )超时被误判成失败会让你以为模型不支持长上下文其实是客户端先断了。6. 把结论跑成自己的接入文档、模型对话与长期编码的分流建议复现这件事的价值在于你得到的数字是在你自己的网络、你自己的语料、你调用那一刻的平台状态下产生的比任何二手跑分都可信。所以最后给的是分流路径而不是一个替你下的结论。如果你卡在接入环节401、超时、model ID 对不上这类问题直接去接入文档页 https://taotoken.net/doc 对照字段再去 API Keys 页 https://taotoken.net/api-keys 重新生成一个 Key 试两步基本能定位。如果你只是想快速验证某个模型在某个任务上的表现不想写脚本用模型对话页 https://taotoken.net/chat 手动贴长文本试虽然不能自动化但胜在零配置适合先探路。如果你确认要长期跑整库重构、多轮 Agent 这类高消耗任务按调用量选 Coding Plan https://taotoken.net/coding-plan 更稳避免临时额度用尽打断实验。压测脚本本身可以留着把 model 字段做成命令行参数以后每上一个新模型跑一遍同样的三任务对照你就有了一条自己的模型能力时间线。这比追每一次匿名上线都更有积累价值。