GPT-6.1 Sol智能体实测:成本降至旗舰五分之一 上个月我们做了一次规模不小的模型选型。之前的默认方案是直接用某头部厂商的旗舰模型性能确实稳但预算压力越来越大。正好这时候GPT‑6.1 Sol出现在了候选名单里定位是“面向智能体重负载的性价比款”。这一类定位最容易被怀疑市面上顶着“性价比”名头的模型太多了实际拿到手之后要么是智商不够用要么是并发稍微一上来就各种超时。所以这次我没有只看跑分而是花了整整两周把评测重点放在了智能体Agent场景下最容易被忽略的细节上工具调用稳定性、多步任务的指令保持、长上下文噪音容忍度以及真实的成本效率。整篇评测的核心结论先说如果你们的业务是高频调用、任务链路较短的智能体应用Sol确实能以接近旗舰款五分之一的开销把活儿接住但如果任务需要复杂的全局推理、长文档改写或深度的代码生成那它和旗舰款的差距还是能明显感知到的。这篇文章不打算写成一个纯夸或纯踩的测评而是把我自己的评测思路、测试用例、成本测算和踩过的坑都摊开讲一遍。1. 先说清楚这模型是给谁用的为什么会有这个档位1.1 旗舰模型和轻量模型之间的空白地带过去两年的经验告诉我模型选型最怕的不是选择少而是档位断层。旗舰模型能力天花板高但成本、延迟、并发配额都摆在那里更适合做复杂任务的收尾和兜底轻量模型便宜、响应快但碰到需要连续决策和多次工具调用的场景经常出现指令漂移也就是做到第三步就忘了第一步的目标。而GPT‑6.1 Sol正好卡在中间它不是拿来做科研级推理的也不是拿来跑闲聊对话的它瞄准的是“智能体任务的主力执行层”。我在测试里反复验证了一个判断如果一项任务可以被拆成两个以内、彼此独立的小步骤那Sol和旗舰款的差距几乎可以忽略一旦步骤超过四步并且需要依赖前一步的结果做动态决策差距就变得明显。这不是Sol独有的毛病而是这个档位模型的通病。关键是你得知道自己业务的真实分布。1.2 “五分之一成本”到底指的是什么标题里的“五分之一旗舰成本”需要拆开看不能只看API单价。我在预算测算里把它分成了三层第一层是单次API调用价格。Sol的输入输出单价确实比我常用的旗舰款低了一个数量级但这只是最表面的数字。第二层是推理链的累计token消耗。由于Sol偶尔需要重试或补充追问同样的任务流程下来token消耗会比旗舰款多两到三成这部分需要算进总账单里。第三层是工程侧的隐性支出包括开发时间、调试成本、以及因为模型偶尔“犯傻”导致的兜底逻辑代码量。所以“五分之一”更准确的理解是如果旗舰款跑通一套固定业务流的月成本是100那Sol把这套流程跑完的真实开销大概在20到25之间。这不是一个精确到小数点的财务测算但在选型阶段作为量级判断是够用的。1.3 这类模型为什么会存在说实话几年前的共识还是“同一个模型体系里只有大杯和超大杯”少参数的版本只是拿来做降级体验的。但现在不一样了智能体应用对模型的需求已经从“追求单次回答质量”变成了“稳定完成一系列高频操作”这个转变直接催生了Sol这个档位。一个智能体一天可能要执行几百次工具调用如果每次调用都走旗舰模型不管是成本还是延迟都扛不住。但全部降级到最轻量的模型又会出现工具参数格式错乱、漏传参数、甚至自己编造参数值的情况。这中间的平衡点就是Sol想站的位置。评测时我没有只盯着单任务的最高分而是模拟了一天2000次真实调用的压力环境看它在疲劳和反复执行下能否维持一开始的稳定度。2. 评测环境与核心指标设计不跑默认基准按Agent场景重做2.1 为什么不直接看公开榜单老实说公开榜单对这类模型的参考价值有限。榜单分数高不代表在真实智能体链路里就好用。原因主要有三个第一榜单数据通常经过反复筛选评测集本身存在被“喂”过的可能第二榜单任务大多是单轮问答或封闭集推理而智能体任务的难点在于多轮交互和外部工具返回结果的变化第三榜单分数看的是输出的最终文字不关注输出格式的稳定性和可解析性这两项在工程化里恰恰是最重要的。所以我这次评测重新设计了一套指标不追求覆盖到所有能力面而是围绕智能体的典型工作流来定。六个维度多步指令保持率、工具调用格式稳定率、长上下文噪音容忍度、错误恢复能力、并发吞吐表现、成本效率。每个维度都有明确的测试方法下面逐个说。2.2 六个核心测试指标的设定方法多步指令保持率不太好测因为模型如果步骤走偏不一定会在最终答案里暴露。我采用的是模拟真实任务的方式比如给出五个连续操作指令前两个的结果正常第三个返回异常值之后观察模型是否还记得最初的目标约束。这个测试跑了120轮每轮随机打乱指令顺序和异常点位置。工具调用格式稳定率是最直接的一个指标。我用了一套固定协议要求模型在每次需要外部数据时输出结构化的JSON调用参数。注意我测的不是它会不会调用工具而是连续两百次调用里有多少次输出是能被解析器零修改直接接受的。这一项最能体现模型的工程友好度。长上下文噪音容忍度模拟的是真实场景里上下文被无关内容污染的情况。我在任务中间插入大段和当前目标无关的对话记录再观察模型能否在若干轮后依然按照原始约束执行。错误恢复能力则是有意让工具返回格式不正确的数据看模型是把错误结果继续往下一步传还是能自己发现问题并主动修正。2.3 评测环境与成本说明这次评测用的环境是常规的Python调用脚本。为了模拟真实业务的并发负载我用了一个简单的异步压测框架把请求间隔压到了接近单账户配额的极限。测试集包含三个方向数据处理流、日程管理类操作、以及一个自定义的业务模拟场景。这里补充一个容易忽略的点评测时我统一关闭了模型自带的上下文压缩功能。原因很简单上下文压缩会改变模型实际看到的内容虽然能降低token消耗但也可能让模型漏掉关键约束。选中某一个既定版本直接测到底而不是开启各种省token开关去“优化”这样出来的结果才更能代表模型本身的能力边界。3. 智能体能力实测从任务拆解到工具调用的真实表现3.1 多步任务表现能扛主力但别当全才使先说结论Sol在中等复杂度的多步任务上完成率比我预期高。我在测试里设置了一个典型业务场景读取一批订单记录按规则过滤掉异常项再调用两个外部接口分别补充信息最后汇总成一个固定格式的报告。整套流程有六个必要步骤后一步依赖前一步的结果。实测下来包括重试在内的整体成功率在八成左右。这个成绩作为主力模型是可以接受的。但如果把任务复杂度再往上加比如需要模型自己拆解出十几个子任务并动态调整执行顺序成功率就会明显下滑下滑的主要原因是它在长链条的中后段开始简化操作倾向于跳过它自己觉得不重要的校验步骤。这个问题在我后续的50轮重复测试中稳定出现不是偶发。我觉得这个表现符合它的定位主力干活够用但复杂的总体规划还得交给旗舰模型来做。如果你把工程上的兜底逻辑写好比如增加中间结果校验和不合格自动重跑Sol是完全能顶住业务压力的。3.2 工具调用的格式稳定性最大的惊喜和唯一的隐忧格式稳定性是我这次评测里评价最高的一个维度。在我的测试协议下Sol连续两小时执行工具调用输出可被直接解析的比例达到了97%以上。这个数据已经接近旗舰款的水平日常开发中常见的JSON解析报错问题在Sol上基本会少很多。这背后其实体现了这代模型对输出格式约束的遵循能力有了明显提升。对于开发者来说是个大好消息因为这意味着少写很多参数补救的脏代码。但隐忧也有当外部工具返回的数据本身存在二义性时Sol倾向于自行推断一个参数值补进去而不是如实标记为未知。这在调试阶段非常容易迷惑人看起来一切正常实际数据已经被“脑补”过了。针对这个问题最好的办法是在系统提示词里明确加上一条无法确认的信息必须显式返回空值不允许自动填充。这算是一个Prompt层面的治理技巧。3.3 长上下文与噪音干扰比预期稳但也有前提长上下文表现让我比较意外。按这个档位的平均水平我原本预期它在三千行对话后会出现明显的遗忘或重复但实测中直到上下文接近两万字它依然能准确执行最初指定的任务约束。这个表现在真实业务里很有价值尤其是客服类智能体需要从头到尾维护用户诉求的场景。但有前提噪音内容不能和当前任务的目标高度相似。如果不是完全无关的闲聊内容而是另一条业务线的相似指令Sol就容易把新旧约束混在一起甚至直接执行更靠后的那组指令。做智能体时如果有多个业务类型共享同一个会话建议在关键节点做一次上下文裁剪而不是把全部历史一股脑堆给模型。3.4 压测情况与并发表现压测的结果也在预期范围内。单进程连续请求时Sol的响应速度稳定并发压力较高时响应延迟会上升但没有出现过租户级别的超时中断。需要提醒的是我在评测中发现免回复的并行请求如果写到十个以上答案错乱率会小幅上升这和模型自身能力无关更多是并发调用时的参数互相干扰。建议在代码层面严格控制实际并发数量不要盲目拉高。4. 成本到底省在哪把账算明白再动手4.1 单次调用成本与整体成本的差异计算成本时最容易出错的地方是只比较单价。单次调用成本Sol确实低但真实业务里需要考虑重试成本模型有约5%的请求需要重试重试一次成本就翻倍再加上额外上下文二次传输的token消耗。所以整体下来的节省大概是四到五倍而不是某些宣传里讲的十倍。我自己记录了一个真实任务的对比数据。同一个三步骤任务旗舰款平均耗时6.2秒消耗约3500个tokenSol平均耗时7.8秒消耗约4400个token。换算下来单次运行成本Sol大约是旗舰款的22%接近我前面说的五分之一。注意这里没有把并行退避的耗时成本算进去如果算上两者的差距还会缩小一点。4.2 三种投入方案的成本对比我整理了一个简易的成本对比表按每月100万次调用量来算单位按旗舰款支出的相对值方案模型选择API成本稳定性综合推荐度全量旗舰旗舰款100高非必要不推荐全量SolSol22中高适合单一简单业务线混合路由Sol为主旗舰兜底30-35高最推荐的主流方案混合路由方案是我这次评测完最推荐的形态把Sol放在主力执行位用规则或轻量分类器把高复杂度请求分流到旗舰款。这样整体成本大概是全旗舰方案的三分之一稳定性却非常接近全旗舰方案。4.3 量化成本与工程成本的取舍最后想多说一点量化成本之外的东西。Sol确实便宜但这个便宜需要通过工程手段来兑现。你需要投入开发时间来处理它的失败分支、重试逻辑和结果校验。这些工程成本某种程度上是在“买”Sol的低单价只是这部分开销经常被忽略。我在测试中花了大约三个工作日来完善这套兜底代码。如果你所在的团队模型选型周期短这些工程成本会吃掉一部分模型成本优势。但换个角度想即使算上这三天的开发成本长期运行下来Sol依然有账可算性价比的核心优势还是存在的。5. 选型建议与典型落地场景哪些业务适合直接换5.1 适合直接切到Sol的业务画像到底什么样的业务适合把主力模型从旗舰款换到Sol我根据自己的测试和实际观察总结出三个特征操作链路短、意图范围窄、对单次响应质量宽容度较高。最典型的场景是数据分析的预处理环节。比如从一堆日志里提取关键字段做格式转换再写入目标系统这种任务Sol又稳又快。第二类是意图明确的客服智能体用户进来能明确说出自己的问题智能体只需要做信息查找和回复组装Sol完全能胜任。第三类是定时任务的调度与执行这类任务本身有完整的重试机制不依赖单次输出极高质量Sol的低成本优势非常明显。5.2 不建议迁移的业务类型有几类业务建议继续留在旗舰款阵营。首先是深度代码生成与重构类任务Sol生成的代码能用但风格松散边缘情况处理得不够干净。其次是长文档的全局性改写与重排Sol在长文结构连贯性上没有旗舰款收得紧。最后是涉及法律法规条款的审阅交给Sol风险偏高因为它偶尔会为了给用户一个“确定感”而过度解读含义。用一个形象的比喻来说Sol适合当熟练的车间主任按流程把单子接着做完没问题但遇到需要现场拍板、重新设计整个产线方案的事还是要叫旗舰款来。5.3 混合路由现阶段最稳的落地形态如果你的业务线较复杂我强烈建议一开始就按混合路由来设计而不是全量切换。具体的实现不复杂一个轻量分级器进来判断任务的复杂度简单任务直接交给Sol复杂任务丢给旗舰款。我在测试中发现这个方案效果好于预期实际成本只比全量Sol方案高了一到两成但系统整体的平滑度和兜底能力提升非常明显。初期可以先设置一个较大的任务复杂度阈值绝大部分流量走Sol小部分走旗舰款运行一段时间后再根据线上数据把阈值调优这个节奏比较稳妥。6. 评测中踩到的坑和排查实录这些细节容易翻车6.1 评测数据被“污染”了分数虚高第一次测试Sol的时候我拿了一套网上找来的热门Agent评测题直接跑成绩相当好看。冷静下来自己看了一遍结果发现这套数据已经被其他评测脚本反复调用过模型很可能是从预训练数据里见过相似内容出现了数据记忆效应而不是真实推理能力。之后我自己重新设计了一套应用镜像题目只关注逻辑约束而不涉及具体的数据点测试出来的成绩才和真实线上表现对齐。做评测一定不要拿公版数据这个教训是认真的。人手一套自建评测集哪怕题目简单点也比网上扒要靠谱。6.2 同一任务跑两次结果差很多可能不是模型的问题评测初期我发现同一道任务Sol的前后表现波动很大一度以为它是随机的。排查后才发现问题出在我写的并发代码上十个并行请求共用了同一个会话变量导致参数串了。这属于典型的低级错误但浪费了整整一个上午。提醒大家一句判断模型稳定性时先确认测试代码本身没问题。建议先用零并发、逐个请求的模式跑一轮基线再上并发压测。跨过这点之后Sol本身的稳定性其实相当不错。6.3 中文指令下的口语化理解偏差Sol对英文指令的遵循度更高。切换到中文指令时如果表达足够正式明确效果也没问题但遇到日常口语化的中文表达会出现过度泛化把模糊的指令自作主张地扩大执行范围。我的建议是中文场景下系统提示词要写得比英文更结构化关键约束项要单独成行不要揉在长句里连标点都可能影响它的理解。6.4 关于上下文压缩功能的一个提示评测期间我试过开启上下文自动压缩确实能把成本再降一点但它会轻微损失前文细节。对单轮任务毫无影响可一旦涉及长链路任务丢失的关键字段很可能导致整条链路走偏。我的实践结果是用Sol跑智能体链路时默认关掉自动压缩只在对话长度确实超过模型训练窗口时才打开。几点个人体会测试做下来我对Sol的整体评价是它很适合做智能体时代的主力但前提是你要接受它的能力边界且愿意在工程上做一些配套。我的实际选择是把大约七成的简单业务分流到Sol上剩下三成高复杂度请求仍然交给旗舰款这样一个月下来成本折半业务体验没有明显后退。最后再分享一个小技巧如果你决定接入Sol第一周不要急着删掉旗舰款的配额保守一点先跑一阵子真实流量再慢慢切量。有些问题确实要等到线上流量足够大、调用足够频繁的时候才会浮出来。评测能帮你排除低级错误但最终的判断只能交给线上数据。