过去两年我观察到一个很有意思的现象2023年你做个AI demo就能融到钱2024年你做个套壳应用还能卖出去到了2025年这套逻辑正在快速失效。AI的智商正在以肉眼可见的速度贬值——API价格一降再降开源模型一代比一代强连中小团队都能在几分钟内部署一个能力不错的基座模型。于是悖论出现了当聪明变得廉价真正决定创业成败的不再是谁更聪明而是谁更愿意去啃那些没人愿意啃的硬骨头——数据清洗、评测体系建设、行业Know-how萃取、模型在破机器上的稳定部署。这些活听起来一点都不性感却正在成为2025年AI创业真正的分水岭。如果你正准备入局AI创业或者已经在路上但总觉得差一口气这篇文章值得你认真读一遍我会拆解这个悖论是怎么形成的以及脏活累活具体指什么、怎么做、怎么靠它建立壁垒。1. 大模型把智商做成公用事业创业者手里那张旧地图失效了1.1 从独家能力到水电煤模型能力的大规模外溢先回顾一下这条曲线。2022年底ChatGPT刚出来时市面上几乎没有能打的对手那时候做一个基于GPT的智能客服都能被当成技术创新。到了2023年中各家大厂开始密集发布基座模型API价格直接进入下降通道2024年开源模型的能力追平甚至局部超越闭源模型比如Llama系列、Qwen系列、DeepSeek系列一个小团队用消费级显卡就能跑出接近GPT-3.5水平的对话效果2025年你几乎找不到一个还需要证明自己懂大模型才能做的产品类别了。这件事对创业者的冲击是釜底抽薪式的。前几年AI创业的核心叙事是我掌握了你没有的AI能力但现在这个叙事崩了。模型能力从稀缺资源变成了类似水电煤的公用设施谁都能接入谁都能调用。你的聪明不是你的竞争力因为大家的聪明都来自同一批基座模型智商上限是同一条线。我在2024年初帮一个客户做法律文书摘要系统的时候还需要反复调prompt、试不同模型才勉强让输出稳定在可用水平到2025年同一个需求用开源模型微调一下或者直接用最新版API加个结构化输出约束效果就已经远超当年。技术的进步当然让人兴奋但对创业者来说这意味着一条清晰得残酷的结论靠模型本身的能力差吃饭窗口已经关上了。1.2 开源生态把智商变成了公共品你的基座不再是壁垒很多人对开源模型的认知还停留在免费、能用、但不够好这个印象至少过时了一年。以2025年上半年的开源模型水平来看主流开源模型在通用对话、代码生成、逻辑推理上已经和顶级闭源模型的差距缩小到日常使用感知不到的程度。更关键的是开源模型可以私有化部署数据不出域成本可控这让大量对数据安全敏感的行业客户毫不犹豫地转向开源方案。这种情况下如果你创业的卖点是我们基于Llama/Qwen做了个自己的大模型资本和客户都不会买账。客户在乎的是你能不能解决我的问题而不是你用的什么基座。我见过不少团队花了几个月时间做模型微调、做RLHF最后发现客户根本不关心你的loss曲线降了0.3他们只关心回答得准不准、快不快、贵不贵。基座模型的选择就像一个餐厅的灶台——你是用进口燃气灶还是国产燃气灶客人不在乎他们在乎的是菜好不好吃。所以把聪明当卖点的时代结束了。开源生态把智商做成了公共品你的私有化优势如果没有配套的工程能力和行业理解一文不值。1.3 Demo癌大爆发能跑通demo的团队越来越多能交付的越来越少这里说一个我观察到的毒瘤现象所谓Demo癌。因为大模型的门槛变低现在几乎所有AI创业者都能在两周内做出一个像模像样的Demo——跟PDF对话、生成周报、AI客服、AI编程助手demo视频拍得美轮美奂融资PPT里放几个benchmark图好像产品已经跑通了。但Demo和产品之间的距离是这个行业最大的谎言。Demo只需要在理想条件下演示成功路径产品需要面对真实世界的无穷分支。用户不会按你的剧本提问PDF会有扫描件和表格混合周报模板每家都不一样客服场景里用户一句话里可能塞了三个意图。这些问题的共性在于它们不是聪明能解决的而是需要大量的脏活累活——定义边界、设计兜底、处理异常、持续迭代。一个残酷的现实是在2025年能跑通Demo的团队可能占所有AI创业者的90%但能完成商业交付的可能不到10%。这个巨大的落差就是聪明廉价化之后的真实格局。市场不再奖励聪明市场开始惩罚不接地气。2. 2025年的真金白银藏在数据、评测与交付这三样脏活里2.1 数据清洗与标注又贵又土但是护城河最深的活我知道数据清洗四个字在创业者耳朵里有多不性感。它不涉及任何前沿算法不产出任何可展示的demo效果甚至听起来像一个外包体力活。但恰恰是这活决定了你的AI系统在真实场景里是神还是猪。举一个我实际做过的场景给一家制造业企业做设备故障诊断的AI助手。我们拿到手的原始数据是什么是过去五年几千条维修工单格式五花八门——有的写在Excel里有的是PDF扫描件有的直接在IM群里发的语音转文字。里面充满了专业缩写、错别字、只有老员工才懂的暗语。这些数据如果用通用大模型直接读效果不会好。你需要先做实体对齐电机和马达是同一个东西、噪声过滤把明天放假这种跟故障无关的记录去掉、标签体系重建不同年份的人记录的故障类型叫法完全不同。这套清洗工作花了项目三分之二的时间但它带来的回报极其直接当我们把清洗后的数据喂给模型做微调和RAG检索时诊断建议的准确率从61%直接跳到89%。客户说你们比上一家供应商强多了而上一家供应商用的就是同样的基座模型只是图省事直接拿原始数据搭了个检索。这就是脏活累活的魔力它不产生炫酷的PPT但它产生别人抄不走的数据资产。模型可以开源算法可以复制但你清洗好的标注好的、经过真实业务验证的数据是真正独一份的东西。2.2 评测与对齐没有评测体系你的迭代就是闭眼开车第二个容易被低估的脏活是评测。很多AI创业团队在开发时有个习惯找几个典型问题试一下感觉差不多能答上来就推上线了。这个流程在玩具项目里没问题但在商业项目里就是灾难。为什么因为AI系统的行为是概率性的你今天感觉它表现不错不代表明天换了输入它就还行。尤其当你改了prompt、换了模型版本、加了新数据你根本无法判断是变好了还是变坏了——除非你有一套可复现的评测集和评测流程。我给一个电商客户做智能导购时花了两周时间建评测集从历史客服记录里扒了5000多组真实的用户问题按照类目、难度、意图类型做了分层还专门设计了200个边界陷阱问题比如用户问你们和XX品牌比哪个好这种需要话术处理的问题。之后每一次模型更新、每改一次prompt都要先在这套评测集上跑一遍对比各项指标。没有这套评测体系我根本不敢跟客户承诺回答准确率不低于90%更不敢做后期迭代优化。评测体系的建立也是个典型的脏活累活——它不产生任何用户看得见的功能但它决定了你后续所有迭代是高效还是瞎打。我见过太多团队在模型性能上反复横跳今天觉得GPT好明天觉得Llama好原因就是没有一套统一的评测标准来客观决策。评测才是AI产品的方向盘。2.3 集成与部署让模型在客户的破机器上稳定跑起来如果说数据是AI项目的血液评测是方向盘那部署就是车子的底盘——它不显眼但底盘不稳整车都散架。2025年做AI创业你绕不开一个场景客户的IT环境根本不是标准的。我接过一个医疗信息系统的项目客户要求全部私有化部署理由是患者数据不能出内网。结果到了现场才发现客户的GPU服务器是一台2019年买的老机器显存只有12G驱动版本老得可怜连最新的推理框架都装不上。我们用了一天时间调驱动、换推理引擎、做模型量化费了九牛二虎之力才把模型压缩到能在这台机器上流畅运行。而这就是AI创业的常态模型选型不能光看准确率还得看它在目标硬件上跑不跑得动API调用不能光看延迟还得看客户的网络环境是不是稳定系统上线不能光看功能还得看和客户的现有系统可能是古老的Java单体应用能不能顺利对接。这些工作没有一个是聪明的它们琐碎、冗长、充满意外但它们直接决定了你的产品能不能真正落地。我在实际项目里总结出了一句口头禅AI创业的本事不在于让模型在NVIDIA最好的卡上跑出SOTA而在于让模型在客户那台没人愿意维护的破机器上稳定运行一年不出事故。2.4 行业Know-how模型不懂你的业务流程你得替它补课最后一项脏活是行业Know-how的萃取和沉淀。大模型确实读了很多书但它不读你们公司的内部流程、不读行业里的潜规则、不读客户组织架构里的微妙关系。你需要把你懂这个行业变成模型也懂这个行业。我举个例子。给一家律所做一个合同审查助手单纯的通用大模型会被各种细节坑惨——它不知道中国的诉讼时效规定需要和合同签署地的特别条款结合判断不知道某些行业合同里项目验收和付款节点之间存在行规性质的绑定关系更不知道客户内部的合同审批流程分四级、每一级关心的问题完全不同。如果不把这些Know-how结构化地喂给模型它的输出就是技术正确但业务不可用。所以我们在每个项目里都会做一轮业务知识萃取和一线业务人员做大量访谈把他们的判断逻辑拆解成规则和场景整理成结构化的知识库再设计成模型可以理解、检索、遵循的格式。这个过程中的工作量远超写代码但它是产品价值的真正载体。模型只是一个执行者Know-how才是决策质量的来源。3. 从能聊到能用AI产品化中间还隔着几条河3.1 幻觉治理客户不会原谅一次离谱的编造很多技术出身的人觉得幻觉是模型特性用户应该理解但在商业场景里这个想法是大忌。客户不会理解你的模型为什么会一本正经地编造一个不存在的发票号码、把合同金额从80万说成800万。任何一次离谱的编造都可能让客户对你的信任归零。治理幻觉没什么银弹就是一道脏活在系统层面加约束在流程层面加验证在业务层面加兜底。我做数据查询类的AI应用时强制要求模型只能基于检索到的结构化数据生成答案禁止自由发挥如果检索不到明确回复没有找到相关信息而不是编一个。做合同审查时所有金额、日期、主体名称都要通过规则引擎二次校验模型说是多少不重要系统验证通过才算数。这套逻辑说白了就是不把AI当人看而是当成一个需要无处不在的护栏的系统组件。这种思路在很多追求技术炫技的团队里不受待见但它在商业世界里是生存底线。3.2 RAG工程检索的边界条件比模型更重要RAG检索增强生成在2025年已经不是什么新鲜词但真正把RAG做好的团队依然不多。多数人以为RAG就是装个向量数据库把文档切碎存进去然后检索实际上把检索质量做好的复杂度远高于此。我在一个法律知识库项目里踩过最深的坑是文档切片的粒度选择。切得太粗一块内容塞进好几个主题检索出来是垃圾切得太细一个完整的信息单元被拆得七零八落上下文丢失。最后我们根据法律文书的章节结构做了层级化切片——条款级用细粒度章节级用中粒度还加上了语义索引和关键词索引的混合检索才把检索命中率从52%拉到83%。还有重新排序Rerank环节也很关键。初检召回100条直接送给模型上下文就爆炸了。我们加了一个专门训练的Rerank模型把最相关的5条挑出来送给大模型回答质量瞬间上了一个台阶。这些工作没有一个是2025年的前沿技术全是脏活累活级别的工程细节但它们才是产品体验的真正分水岭。3.3 成本与延迟每一分token都是钱聪明不等于便宜另一个产品化过程中绕不开的问题是成本。2025年的API价格已经比两年前便宜了一个量级但对B端客户来说成本依然是一个硬约束。特别是一些高频场景——比如一个客服系统每天要处理上万次对话一次对话平均消耗几千个token一个月下来API费用相当可观。我算过一笔账一个日活一千的企业内部AI助手如果用最贵的模型、不加缓存、不做prompt压缩每个月光token费用就可能上万但如果我们做意图路由简单问题走小模型复杂问题走大模型、加语义缓存相同问题直接命中缓存、优化prompt减少冗余输出同样效果下成本能降60%以上。延迟也是一样的逻辑。客户可以容忍银行柜台系统有点慢但无法容忍一个AI能做的明明是装模作样地思考十秒钟——这让我想起一个客户的原话你聪明是聪明但你思考十秒才开口我这边客户已经挂电话了。2025年的AI应用不只是比谁聪明更比谁在同样的聪明程度下更快、更便宜。3.4 人机协作流程再造把AI塞进原有工作流而不是让用户迁就AI最后一个产品化的关键问题往往被纯技术团队忽略AI不是替换人而是嵌入到原有的业务流程里。你需要理解业务的现状是什么、一线员工的工作习惯是什么、管理层的审批流程是什么然后设计一个人和AI各司其职的新流程。我在做一个供应链数据分析产品时最初的方案是让AI自动生成所有报表替代人工结果客户根本不买账——不是技术不行而是业务逻辑上根本走不通财务部需要对每一张报表负责AI生成的东西没人敢直接签字。后来我们改成了AI生成初稿人工复核确认的模式把AI定位成效率工具而不是替代者客户才满意。这说明一个道理AI创业的产品化本质上是和组织打交道。你的算法再准确如果无法融入客户的权力结构、责任体系和操作习惯它就是一个实验室里的玩具。设计好人机协作的接口、异常升级机制、责任归属规则这些都是教科书里不讲、PPT里不写但真实世界里决定生死的脏活。4. 重新定位把脏活累活做成护城河的四种打法4.1 垂直场景深耕比做通用平台有更大的胜算2025年的AI创业圈最不缺的就是AI一切的通用叙事。但我的观察是通用平台的窗口已经关闭垂直场景深耕反而有巨大机会。为什么垂直场景有戏因为垂直场景意味着你愿意做那些通用平台不屑于做的脏活把行业术语喂给模型、把内部流程做成数据结构和规则引擎、和一线业务人员蹲在一起看他们怎么工作。这些投入对通用平台来说是不划算的但对你来说是独家的。我在2024年接触过一个做茶叶供应链质检的AI团队他们的产品技术含量在算法层面并不算高但他们对茶行业的数据收集之深、品类分类之细、国家标准的数字化之完备让我都惊讶。这些积累让任何想用通用大模型进场竞争的团队都望而却步——因为复现他们那些数据和规则可能需要整整两年的行业沉浸。垂直场景的小换来的是壁垒的深。4.2 当个模型调包侠不丢人丢人的是只会调包我一直反对我们必须自研模型这种创业执念。基座模型是别人做好的你基于它能开发出什么有价值的东西才是你的本事。用现成的模型加上你的数据和场景理解组合出解决客户问题的产品——这在2025年不仅不丢人反而是一种清醒的理性。但调包侠也要有门槛。真正的调包侠不是只会调用API而是知道什么时候该用API、什么时候该私有化部署、什么时候该换小模型、什么时候该做微调、什么时候该在模型外面加规则引擎。这些决策能力来自对模型特性的深度理解和对业务需求的准确判断。我在实际项目里经常要做技术选型是选闭源API还是开源模型是直接prompt工程还是微调是自建向量库还是买托管服务这些问题没有一个放之四海而皆准的答案全都要基于场景、数据、成本、合规来权衡。能把这道选择题做好比单纯掌握某个模型要值钱得多。4.3 给客户交付确定性SLA比benchmark值钱技术圈里的人经常会陷入benchmark的迷思觉得跑分高就是好。但在商业化里客户根本不关心benchmark他们关心的是你不会掉链子。所以2025年做AI创业SLA服务等级协议思维极其重要。什么叫SLA思维就是你要对客户做出可承诺、可验证的确定性的保障系统可用性99.9%响应时间小于2秒关键任务的准确率不低于某个阈值数据不出域故障恢复时间不超过30分钟。要做到这些承诺光靠一个模型远远不够你需要监控告警体系、降级兜底方案、异常熔断机制、测试回归流程……这些都是典型的脏活累活。我给客户做的每个AI系统上线时都会给他们一份详细的SLA说明并配套一套可视化监控面板。这样客户有问题随时能查有问题我们第一时间响应。后来的续约和增购全部都建立在稳这个字上而不是模型更聪明了。4.4 团队配置算法工程师不再是唯一主角最后聊一个团队层面的观察。2024年很多AI创业团队的配置是三个算法大佬一个实习生但到2025年我发现能跑出来的团队结构正在变化算法工程师依然是核心但数据工程师、评测工程师、交付工程师、行业专家的位置越来越重要。我自己之前吃过大亏。一个AI合同审查项目算法工程师花了三个月优化模型效果始终一般后来加入了一个做过法务的伙伴他带我们重新梳理了合同审查的业务逻辑把模型回答结构化拆解成几个固定环节然后再让算法去优化每个环节效果立刻翻倍。这就是行业专家工程化思维对纯算法思路的降维打击。2025年的AI创业不再是算法说话的时代。优秀的团队应该是复合型的懂算法、懂工程、懂行业、懂交付的人坐在一起共同把那个聪明的模型变成客户能用的、稳定的、愿意付钱的产品。5. 踩坑两年后我对AI创业悖论的最终理解说这些不是唱衰AI创业。恰恰相反我认为2025年是AI创业非常好的年份——只不过好的方式和两年前完全不同了。两年前的窗口是模型能力红利谁先接住谁赢2025年的窗口是落地能力红利谁更能啃硬骨头谁赢。我自己在创业过程中最大的认知转变是一开始我也迷信模型越强产品越强后来被现实教育了无数次才慢慢接受了模型只占产品成功要素的三成另外七成是数据、工程、评测、交付和行业理解。这个比例也许有些主观但方向是确定的——聪明正在变得越来越廉价真正拉开差距的是你愿意为那些不聪明的事情投入多少时间。如果你现在正准备入局AI创业我的建议是别再琢磨怎么训练一个更聪明的模型了去选一个你能接触到真实业务数据的垂直行业去和那些业务一线的人泡在一起去把那些看起来土里土气、毫无技术含量、但真实存在需求的流程梳理清楚。你会发现脏活累活里其实藏着2025年AI创业最好的机会。最后分享一个我自己的心得每次接到新项目我会先问自己三个问题。这个客户的数据我能不能拿到这个行业的Know-how我能不能学到这个场景里的脏活累活我愿不愿意干如果三个答案都是肯定的即便模型能力再普通这个项目大概率也能做成反之如果只是想靠一个聪明的模型去碾压市场那我劝你还是省省力气——因为聪明这个东西真的已经不值钱了。 
长河君 · 2026/9/12 3:17:52 · 阅读 1.2k 2025年AI创业分水岭：聪明贬值，脏活累活才是护城河
过去两年我观察到一个很有意思的现象2023年你做个AI demo就能融到钱2024年你做个套壳应用还能卖出去到了2025年这套逻辑正在快速失效。AI的智商正在以肉眼可见的速度贬值——API价格一降再降开源模型一代比一代强连中小团队都能在几分钟内部署一个能力不错的基座模型。于是悖论出现了当聪明变得廉价真正决定创业成败的不再是谁更聪明而是谁更愿意去啃那些没人愿意啃的硬骨头——数据清洗、评测体系建设、行业Know-how萃取、模型在破机器上的稳定部署。这些活听起来一点都不性感却正在成为2025年AI创业真正的分水岭。如果你正准备入局AI创业或者已经在路上但总觉得差一口气这篇文章值得你认真读一遍我会拆解这个悖论是怎么形成的以及脏活累活具体指什么、怎么做、怎么靠它建立壁垒。1. 大模型把智商做成公用事业创业者手里那张旧地图失效了1.1 从独家能力到水电煤模型能力的大规模外溢先回顾一下这条曲线。2022年底ChatGPT刚出来时市面上几乎没有能打的对手那时候做一个基于GPT的智能客服都能被当成技术创新。到了2023年中各家大厂开始密集发布基座模型API价格直接进入下降通道2024年开源模型的能力追平甚至局部超越闭源模型比如Llama系列、Qwen系列、DeepSeek系列一个小团队用消费级显卡就能跑出接近GPT-3.5水平的对话效果2025年你几乎找不到一个还需要证明自己懂大模型才能做的产品类别了。这件事对创业者的冲击是釜底抽薪式的。前几年AI创业的核心叙事是我掌握了你没有的AI能力但现在这个叙事崩了。模型能力从稀缺资源变成了类似水电煤的公用设施谁都能接入谁都能调用。你的聪明不是你的竞争力因为大家的聪明都来自同一批基座模型智商上限是同一条线。我在2024年初帮一个客户做法律文书摘要系统的时候还需要反复调prompt、试不同模型才勉强让输出稳定在可用水平到2025年同一个需求用开源模型微调一下或者直接用最新版API加个结构化输出约束效果就已经远超当年。技术的进步当然让人兴奋但对创业者来说这意味着一条清晰得残酷的结论靠模型本身的能力差吃饭窗口已经关上了。1.2 开源生态把智商变成了公共品你的基座不再是壁垒很多人对开源模型的认知还停留在免费、能用、但不够好这个印象至少过时了一年。以2025年上半年的开源模型水平来看主流开源模型在通用对话、代码生成、逻辑推理上已经和顶级闭源模型的差距缩小到日常使用感知不到的程度。更关键的是开源模型可以私有化部署数据不出域成本可控这让大量对数据安全敏感的行业客户毫不犹豫地转向开源方案。这种情况下如果你创业的卖点是我们基于Llama/Qwen做了个自己的大模型资本和客户都不会买账。客户在乎的是你能不能解决我的问题而不是你用的什么基座。我见过不少团队花了几个月时间做模型微调、做RLHF最后发现客户根本不关心你的loss曲线降了0.3他们只关心回答得准不准、快不快、贵不贵。基座模型的选择就像一个餐厅的灶台——你是用进口燃气灶还是国产燃气灶客人不在乎他们在乎的是菜好不好吃。所以把聪明当卖点的时代结束了。开源生态把智商做成了公共品你的私有化优势如果没有配套的工程能力和行业理解一文不值。1.3 Demo癌大爆发能跑通demo的团队越来越多能交付的越来越少这里说一个我观察到的毒瘤现象所谓Demo癌。因为大模型的门槛变低现在几乎所有AI创业者都能在两周内做出一个像模像样的Demo——跟PDF对话、生成周报、AI客服、AI编程助手demo视频拍得美轮美奂融资PPT里放几个benchmark图好像产品已经跑通了。但Demo和产品之间的距离是这个行业最大的谎言。Demo只需要在理想条件下演示成功路径产品需要面对真实世界的无穷分支。用户不会按你的剧本提问PDF会有扫描件和表格混合周报模板每家都不一样客服场景里用户一句话里可能塞了三个意图。这些问题的共性在于它们不是聪明能解决的而是需要大量的脏活累活——定义边界、设计兜底、处理异常、持续迭代。一个残酷的现实是在2025年能跑通Demo的团队可能占所有AI创业者的90%但能完成商业交付的可能不到10%。这个巨大的落差就是聪明廉价化之后的真实格局。市场不再奖励聪明市场开始惩罚不接地气。2. 2025年的真金白银藏在数据、评测与交付这三样脏活里2.1 数据清洗与标注又贵又土但是护城河最深的活我知道数据清洗四个字在创业者耳朵里有多不性感。它不涉及任何前沿算法不产出任何可展示的demo效果甚至听起来像一个外包体力活。但恰恰是这活决定了你的AI系统在真实场景里是神还是猪。举一个我实际做过的场景给一家制造业企业做设备故障诊断的AI助手。我们拿到手的原始数据是什么是过去五年几千条维修工单格式五花八门——有的写在Excel里有的是PDF扫描件有的直接在IM群里发的语音转文字。里面充满了专业缩写、错别字、只有老员工才懂的暗语。这些数据如果用通用大模型直接读效果不会好。你需要先做实体对齐电机和马达是同一个东西、噪声过滤把明天放假这种跟故障无关的记录去掉、标签体系重建不同年份的人记录的故障类型叫法完全不同。这套清洗工作花了项目三分之二的时间但它带来的回报极其直接当我们把清洗后的数据喂给模型做微调和RAG检索时诊断建议的准确率从61%直接跳到89%。客户说你们比上一家供应商强多了而上一家供应商用的就是同样的基座模型只是图省事直接拿原始数据搭了个检索。这就是脏活累活的魔力它不产生炫酷的PPT但它产生别人抄不走的数据资产。模型可以开源算法可以复制但你清洗好的标注好的、经过真实业务验证的数据是真正独一份的东西。2.2 评测与对齐没有评测体系你的迭代就是闭眼开车第二个容易被低估的脏活是评测。很多AI创业团队在开发时有个习惯找几个典型问题试一下感觉差不多能答上来就推上线了。这个流程在玩具项目里没问题但在商业项目里就是灾难。为什么因为AI系统的行为是概率性的你今天感觉它表现不错不代表明天换了输入它就还行。尤其当你改了prompt、换了模型版本、加了新数据你根本无法判断是变好了还是变坏了——除非你有一套可复现的评测集和评测流程。我给一个电商客户做智能导购时花了两周时间建评测集从历史客服记录里扒了5000多组真实的用户问题按照类目、难度、意图类型做了分层还专门设计了200个边界陷阱问题比如用户问你们和XX品牌比哪个好这种需要话术处理的问题。之后每一次模型更新、每改一次prompt都要先在这套评测集上跑一遍对比各项指标。没有这套评测体系我根本不敢跟客户承诺回答准确率不低于90%更不敢做后期迭代优化。评测体系的建立也是个典型的脏活累活——它不产生任何用户看得见的功能但它决定了你后续所有迭代是高效还是瞎打。我见过太多团队在模型性能上反复横跳今天觉得GPT好明天觉得Llama好原因就是没有一套统一的评测标准来客观决策。评测才是AI产品的方向盘。2.3 集成与部署让模型在客户的破机器上稳定跑起来如果说数据是AI项目的血液评测是方向盘那部署就是车子的底盘——它不显眼但底盘不稳整车都散架。2025年做AI创业你绕不开一个场景客户的IT环境根本不是标准的。我接过一个医疗信息系统的项目客户要求全部私有化部署理由是患者数据不能出内网。结果到了现场才发现客户的GPU服务器是一台2019年买的老机器显存只有12G驱动版本老得可怜连最新的推理框架都装不上。我们用了一天时间调驱动、换推理引擎、做模型量化费了九牛二虎之力才把模型压缩到能在这台机器上流畅运行。而这就是AI创业的常态模型选型不能光看准确率还得看它在目标硬件上跑不跑得动API调用不能光看延迟还得看客户的网络环境是不是稳定系统上线不能光看功能还得看和客户的现有系统可能是古老的Java单体应用能不能顺利对接。这些工作没有一个是聪明的它们琐碎、冗长、充满意外但它们直接决定了你的产品能不能真正落地。我在实际项目里总结出了一句口头禅AI创业的本事不在于让模型在NVIDIA最好的卡上跑出SOTA而在于让模型在客户那台没人愿意维护的破机器上稳定运行一年不出事故。2.4 行业Know-how模型不懂你的业务流程你得替它补课最后一项脏活是行业Know-how的萃取和沉淀。大模型确实读了很多书但它不读你们公司的内部流程、不读行业里的潜规则、不读客户组织架构里的微妙关系。你需要把你懂这个行业变成模型也懂这个行业。我举个例子。给一家律所做一个合同审查助手单纯的通用大模型会被各种细节坑惨——它不知道中国的诉讼时效规定需要和合同签署地的特别条款结合判断不知道某些行业合同里项目验收和付款节点之间存在行规性质的绑定关系更不知道客户内部的合同审批流程分四级、每一级关心的问题完全不同。如果不把这些Know-how结构化地喂给模型它的输出就是技术正确但业务不可用。所以我们在每个项目里都会做一轮业务知识萃取和一线业务人员做大量访谈把他们的判断逻辑拆解成规则和场景整理成结构化的知识库再设计成模型可以理解、检索、遵循的格式。这个过程中的工作量远超写代码但它是产品价值的真正载体。模型只是一个执行者Know-how才是决策质量的来源。3. 从能聊到能用AI产品化中间还隔着几条河3.1 幻觉治理客户不会原谅一次离谱的编造很多技术出身的人觉得幻觉是模型特性用户应该理解但在商业场景里这个想法是大忌。客户不会理解你的模型为什么会一本正经地编造一个不存在的发票号码、把合同金额从80万说成800万。任何一次离谱的编造都可能让客户对你的信任归零。治理幻觉没什么银弹就是一道脏活在系统层面加约束在流程层面加验证在业务层面加兜底。我做数据查询类的AI应用时强制要求模型只能基于检索到的结构化数据生成答案禁止自由发挥如果检索不到明确回复没有找到相关信息而不是编一个。做合同审查时所有金额、日期、主体名称都要通过规则引擎二次校验模型说是多少不重要系统验证通过才算数。这套逻辑说白了就是不把AI当人看而是当成一个需要无处不在的护栏的系统组件。这种思路在很多追求技术炫技的团队里不受待见但它在商业世界里是生存底线。3.2 RAG工程检索的边界条件比模型更重要RAG检索增强生成在2025年已经不是什么新鲜词但真正把RAG做好的团队依然不多。多数人以为RAG就是装个向量数据库把文档切碎存进去然后检索实际上把检索质量做好的复杂度远高于此。我在一个法律知识库项目里踩过最深的坑是文档切片的粒度选择。切得太粗一块内容塞进好几个主题检索出来是垃圾切得太细一个完整的信息单元被拆得七零八落上下文丢失。最后我们根据法律文书的章节结构做了层级化切片——条款级用细粒度章节级用中粒度还加上了语义索引和关键词索引的混合检索才把检索命中率从52%拉到83%。还有重新排序Rerank环节也很关键。初检召回100条直接送给模型上下文就爆炸了。我们加了一个专门训练的Rerank模型把最相关的5条挑出来送给大模型回答质量瞬间上了一个台阶。这些工作没有一个是2025年的前沿技术全是脏活累活级别的工程细节但它们才是产品体验的真正分水岭。3.3 成本与延迟每一分token都是钱聪明不等于便宜另一个产品化过程中绕不开的问题是成本。2025年的API价格已经比两年前便宜了一个量级但对B端客户来说成本依然是一个硬约束。特别是一些高频场景——比如一个客服系统每天要处理上万次对话一次对话平均消耗几千个token一个月下来API费用相当可观。我算过一笔账一个日活一千的企业内部AI助手如果用最贵的模型、不加缓存、不做prompt压缩每个月光token费用就可能上万但如果我们做意图路由简单问题走小模型复杂问题走大模型、加语义缓存相同问题直接命中缓存、优化prompt减少冗余输出同样效果下成本能降60%以上。延迟也是一样的逻辑。客户可以容忍银行柜台系统有点慢但无法容忍一个AI能做的明明是装模作样地思考十秒钟——这让我想起一个客户的原话你聪明是聪明但你思考十秒才开口我这边客户已经挂电话了。2025年的AI应用不只是比谁聪明更比谁在同样的聪明程度下更快、更便宜。3.4 人机协作流程再造把AI塞进原有工作流而不是让用户迁就AI最后一个产品化的关键问题往往被纯技术团队忽略AI不是替换人而是嵌入到原有的业务流程里。你需要理解业务的现状是什么、一线员工的工作习惯是什么、管理层的审批流程是什么然后设计一个人和AI各司其职的新流程。我在做一个供应链数据分析产品时最初的方案是让AI自动生成所有报表替代人工结果客户根本不买账——不是技术不行而是业务逻辑上根本走不通财务部需要对每一张报表负责AI生成的东西没人敢直接签字。后来我们改成了AI生成初稿人工复核确认的模式把AI定位成效率工具而不是替代者客户才满意。这说明一个道理AI创业的产品化本质上是和组织打交道。你的算法再准确如果无法融入客户的权力结构、责任体系和操作习惯它就是一个实验室里的玩具。设计好人机协作的接口、异常升级机制、责任归属规则这些都是教科书里不讲、PPT里不写但真实世界里决定生死的脏活。4. 重新定位把脏活累活做成护城河的四种打法4.1 垂直场景深耕比做通用平台有更大的胜算2025年的AI创业圈最不缺的就是AI一切的通用叙事。但我的观察是通用平台的窗口已经关闭垂直场景深耕反而有巨大机会。为什么垂直场景有戏因为垂直场景意味着你愿意做那些通用平台不屑于做的脏活把行业术语喂给模型、把内部流程做成数据结构和规则引擎、和一线业务人员蹲在一起看他们怎么工作。这些投入对通用平台来说是不划算的但对你来说是独家的。我在2024年接触过一个做茶叶供应链质检的AI团队他们的产品技术含量在算法层面并不算高但他们对茶行业的数据收集之深、品类分类之细、国家标准的数字化之完备让我都惊讶。这些积累让任何想用通用大模型进场竞争的团队都望而却步——因为复现他们那些数据和规则可能需要整整两年的行业沉浸。垂直场景的小换来的是壁垒的深。4.2 当个模型调包侠不丢人丢人的是只会调包我一直反对我们必须自研模型这种创业执念。基座模型是别人做好的你基于它能开发出什么有价值的东西才是你的本事。用现成的模型加上你的数据和场景理解组合出解决客户问题的产品——这在2025年不仅不丢人反而是一种清醒的理性。但调包侠也要有门槛。真正的调包侠不是只会调用API而是知道什么时候该用API、什么时候该私有化部署、什么时候该换小模型、什么时候该做微调、什么时候该在模型外面加规则引擎。这些决策能力来自对模型特性的深度理解和对业务需求的准确判断。我在实际项目里经常要做技术选型是选闭源API还是开源模型是直接prompt工程还是微调是自建向量库还是买托管服务这些问题没有一个放之四海而皆准的答案全都要基于场景、数据、成本、合规来权衡。能把这道选择题做好比单纯掌握某个模型要值钱得多。4.3 给客户交付确定性SLA比benchmark值钱技术圈里的人经常会陷入benchmark的迷思觉得跑分高就是好。但在商业化里客户根本不关心benchmark他们关心的是你不会掉链子。所以2025年做AI创业SLA服务等级协议思维极其重要。什么叫SLA思维就是你要对客户做出可承诺、可验证的确定性的保障系统可用性99.9%响应时间小于2秒关键任务的准确率不低于某个阈值数据不出域故障恢复时间不超过30分钟。要做到这些承诺光靠一个模型远远不够你需要监控告警体系、降级兜底方案、异常熔断机制、测试回归流程……这些都是典型的脏活累活。我给客户做的每个AI系统上线时都会给他们一份详细的SLA说明并配套一套可视化监控面板。这样客户有问题随时能查有问题我们第一时间响应。后来的续约和增购全部都建立在稳这个字上而不是模型更聪明了。4.4 团队配置算法工程师不再是唯一主角最后聊一个团队层面的观察。2024年很多AI创业团队的配置是三个算法大佬一个实习生但到2025年我发现能跑出来的团队结构正在变化算法工程师依然是核心但数据工程师、评测工程师、交付工程师、行业专家的位置越来越重要。我自己之前吃过大亏。一个AI合同审查项目算法工程师花了三个月优化模型效果始终一般后来加入了一个做过法务的伙伴他带我们重新梳理了合同审查的业务逻辑把模型回答结构化拆解成几个固定环节然后再让算法去优化每个环节效果立刻翻倍。这就是行业专家工程化思维对纯算法思路的降维打击。2025年的AI创业不再是算法说话的时代。优秀的团队应该是复合型的懂算法、懂工程、懂行业、懂交付的人坐在一起共同把那个聪明的模型变成客户能用的、稳定的、愿意付钱的产品。5. 踩坑两年后我对AI创业悖论的最终理解说这些不是唱衰AI创业。恰恰相反我认为2025年是AI创业非常好的年份——只不过好的方式和两年前完全不同了。两年前的窗口是模型能力红利谁先接住谁赢2025年的窗口是落地能力红利谁更能啃硬骨头谁赢。我自己在创业过程中最大的认知转变是一开始我也迷信模型越强产品越强后来被现实教育了无数次才慢慢接受了模型只占产品成功要素的三成另外七成是数据、工程、评测、交付和行业理解。这个比例也许有些主观但方向是确定的——聪明正在变得越来越廉价真正拉开差距的是你愿意为那些不聪明的事情投入多少时间。如果你现在正准备入局AI创业我的建议是别再琢磨怎么训练一个更聪明的模型了去选一个你能接触到真实业务数据的垂直行业去和那些业务一线的人泡在一起去把那些看起来土里土气、毫无技术含量、但真实存在需求的流程梳理清楚。你会发现脏活累活里其实藏着2025年AI创业最好的机会。最后分享一个我自己的心得每次接到新项目我会先问自己三个问题。这个客户的数据我能不能拿到这个行业的Know-how我能不能学到这个场景里的脏活累活我愿不愿意干如果三个答案都是肯定的即便模型能力再普通这个项目大概率也能做成反之如果只是想靠一个聪明的模型去碾压市场那我劝你还是省省力气——因为聪明这个东西真的已经不值钱了。