“AI Slop”这个词我在去年还在内部群里当玩笑调侃今年已经变成内容运营、产品负责人和我这种一线搞技术的人躲不开的日常。做 AI 应用开发的朋友应该都有体感用大模型生成文本、图片、短视频甚至短剧脚本成本已经低到几乎可以忽略于是各种批量生产的“AI 内容”开始铺天盖地地涌进公开渠道。泛化地说这些内容表面格式工整读下来却空无一物它不违法、不违规、技术上也挑不出大毛病但它真的非常“吵”把真正有信息量的内容全部淹没掉。治理这类内容不是靠“看见一篇删一篇”就能解决的。过去半年我带着团队在一条真实内容产品线上做了一整套“AI Slop 治理”的落地实践从制定内容标准、改进提示词和生产流程到搭建自动检测脚本再到处理 AI Agent 批量生产带来的风险最后到用指标衡量治理效果。这套方案覆盖了文本、图片、视频三种形态也踩过不少坑这篇文章我把整个思路和可以直接复用的部分都整理出来。这篇文章适合谁看如果你是内容平台、信息流产品、媒体团队的内容负责人或者你是做 AI 应用、AI 工具、智能体的开发者再或者你只是个人创作者但被自己批量产出的 AI 内容“淹没”过下面的内容应该能直接帮到你。1. AI Slop 治理我们在谈什么1.1 “AI Slop”不是情绪化骂法先说概念。Slop 最早在某些社群里被用来指代那种“看起来完成了、实际没有传达任何信息”的生成内容。后来这个词扩散到整个 AI 内容生态指的就是大模型批量生成的、低信息密度、高度模板化的文本、图片、视频、音频内容。它最典型的表现是语言流畅但没有观点结构完整但没有细节语气端正但没有来源。举个例子你让 AI 写一篇“智能家居发展趋势分析”它可能输出两千字分五个小节每节都有小标题每段还有“首先”“其次”“总而言之”。表面上是完整的行业分析但里面没有真实案例、没有可查证的数据来源、没有你个人的判断所有句子都是“正确的废话”。这种内容放进知识库、放进公众号、放进短视频脚本用户读完以后什么都留不下只会有一种“我好像看了点什么又好像什么都没看”的空虚感。为什么说这不是情绪化骂法而是一个需要被认真治理的工程问题因为 Slop 不是偶发的质量问题而是“规模化生产”带出来的必然副产品。当工具成本趋近于零内容生产的边际成本也趋近于零那么在没有治理约束的情况下生产方式一定会走向“多快好省”的极端也就是大量生成、大量发布、靠概率覆盖用户需求。这和工业时代无节制排放废水废气是一个逻辑。1.2 你工作流里最容易长出 Slop 的三个位置我在治理过程中画过一张很粗糙的“Slop 生成链路图”最后发现几乎所有 Slop 都是从三个位置漏出来的。第一个位置是内容生产源头也就是“提示词到初稿”这一步。很多人给 AI 的提示词本身就要求它“全面、系统、总结”大模型为了迎合这种要求会拼凑出语义上四平八稳、却没有任何信息增量的内容。这还不是最麻烦的最麻烦的是“批量套模板”——同一个选题结构重复用一百次标题换一换、关键词换一换产出看起来每篇都不一样丢进聚类算法里一看全是同一套骨架。第二个位置是人工审核环节。很多团队虽然有审核但审核标准模糊审核员只判断“有没有错别字、有没有敏感词、格式规不规范”完全不判断“这篇内容有没有真实信息增量、有没有事实出处、有没有独特视角”。审核变成了排版检查Slop 自然就漏过去了。第三个位置发生在后端分发也就是推荐系统和算法策略。推荐系统大多优化的是点击率、停留时长、互动率这类短期指标Slop 因为文本顺滑、标题戳人很容易在这些指标上表现不错于是算法会给它更多流量。流量反过来又进一步激励生产者制造更多 Slop形成一个非常顽固的恶性循环。2. 治理体系先定规则再上工具很多团队一上来就让我找“AI 检测工具”我觉得这个顺序反了。工具只能解决“你已经知道要查什么”的问题如果连质量标准、发布规则、责任边界都没定清楚再好的检测器也救不了你。2.1 一个治理框架的四个维度我们后来把整个治理框架拆成四个维度生产端、内容端、发布端、消费端。每个维度对应不同的治理动作。生产端管的是“怎么生成”。你要定清楚哪些环节可以用 AI 提效哪些环节必须人工原创哪些环节生成之后必须有人工修改率底线。比如我们会规定新闻资讯类内容里AI 最多承担资料梳理和初稿扩写事实性描述必须由人工核对并至少改写三分之一观点类内容里AI 只能做素材收集核心论点必须人工撰写。内容端管的是“产出长什么样”。这里要定内容质量的最低线比如是否要求有可验证的数据来源、是否要求有明确的作者信息、是否禁止在正文里使用“总的来说”“值得注意的是”这类高频套话。这些规则看起来很像文案规范但在治理 Slop 时非常关键。发布端管的是“什么内容可以对外发出”。这是拦截 Slop 的最后一道实体关卡一般由人工审核和自动检测共同构成。人工审核的要义不是逐字读而是带着“内容三问”去读这篇内容有没有新信息有没有具体案例有没有独立观点消费端管的是“如何对待已经发布的内容”。包括用户举报通道、低质量内容的折叠与降权以及定期的存量内容清理。2.2 生产端治理提示词约束和生成出口收窄在文本生成这个环节里我踩过最有价值的坑是提示词一定要“反向写”而不是“正向写”。什么叫反向写就是你明确告诉大模型“我不要什么”比告诉它“我要什么”更管用。比如我们团队的初始提示词模板是“帮我写一篇关于智能家居的深度分析文章要求结构清晰、内容专业”产出的东西简直是 Slop 教科书。后来我们改成了一段反向约束你是行业分析师请为以下选题撰写正文。规则 1. 禁止总结常见观点只写你自己有信息增量的部分 2. 禁止使用“首先”“其次”“总而言之”“值得注意的是”等套话 3. 每条核心判断必须附带一个可验证的真实案例或数据来源 4. 全文结构不得使用三段式平行展开优先使用对比、时间线、问题链结构 5. 输出超过 800 字后必须插入一个具体的人物或产品名称。你看同样的模型能力加了这些约束之后输出内容的信息密度立刻不一样了。因为大模型的本质是概率生成你不把低质量的概率通道封死它就倾向走最容易的通道也就是那些在训练语料里出现频率最高的“完美废话”。生成出口收窄也是生产端治理的好办法。具体到操作上就是不要把大模型的“开放续写”直接接到下游而是先在中间加一个“信息点提取层”。我先让模型从参考资料里提取事实、案例、数据、冲突点然后以这些信息点为基础来生成正文。这样生成器不再是自由发挥而是有锚点的扩写产生的 Slop 会显著减少。图片和视频场景同理。我们在做 AI 配图时强制要求不使用通用吉利话语、不给画面加额外的口号文案、不允许直接输出有水印的素材、不允许把 AI 绘画生成的默认风格不加筛选直接发布。生成之后还必须挑出最符合文章信息点的图而不是“看着好看就行”的第一张。2.3 发布端治理人机协同审核单我设计过一份比较成功的人工审核单现在分享出来你直接拿去用就行。审核一份内容时只需要回答下面五个问题这篇内容里是否有至少一条我以前不知道的信息点如果没有退回重写。文中出现的所有数字、人名、品牌名是否可溯源如果查不到出处打回补充来源。删掉所有套话段落后内容是否仍然成立如果内容主体依赖“首先、其次、然后”这种连接词撑结构说明结构是空心的退回重做。标题是否与正文中的核心论点匹配不匹配的情况下优先改标题而不是改正文避免误导点击。如果内容署上真人作者的名字作者本人是否会愿意承担署名责任不愿意说明连你自己都不认可它的质量凭什么发布这套审核单看起来简简单单但实际执行起来效果出奇地好。原因在于它逼迫审核员从“判断格式”转向“判断信息”而信息判断恰恰是 AI 生成内容最薄弱、最容易露馅的地方。3. Slop 检测实战从文本指纹到内容多样性检查规则定完之后需要上自动化手段。我们最终的目标不是检测“这篇是不是 AI 写的”而是检测“这篇是不是 Slop”。这两个目标有重叠但并不完全一样。AI 写的好内容不应该被误杀人写的低质内容也应该被揪出来。3.1 先做一道基础检查AI 风格指纹过滤文本类 Slop 在语言结构上有非常明显的模式特征我们可以把这些特征叫“风格指纹”。我写了一个轻量级 Python 脚本跑在内容发布链路里用来过滤明显符合条件的“套话文本”。import re import statistics HALLMARK_PHRASES [ 总而言之, 总的来说, 值得注意的是, 不难看出, 在当今, 随着社会的飞速发展, 综上所述, 众所周知, 首先, 其次, 然后, 最后, 作为一种重要的, 由此可见 ] def sentence_lengths(text: str) - list[float]: sentences re.split(r[。!?], text) return [len(s) for s in sentences if len(s) 0] def slop_score(text: str) - dict: lengths sentence_lengths(text) low_info_flag 0 for phrase in HALLMARK_PHRASES: if phrase in text: low_info_flag 1 avg_len statistics.mean(lengths) if lengths else 0 std_len statistics.stdev(lengths) if len(lengths) 2 else 0 # 标准化思路把原始指标换算成 0-100 的“可疑分” style_score min(low_info_flag * 8, 40) variance_score 0 if avg_len 30 and std_len 8: variance_score 20 elif avg_len 26 and std_len 5: variance_score 30 return { sentence_avg_len: round(avg_len, 1), sentence_std_len: round(std_len, 1), hallmark_count: low_info_flag, slop_score: min(style_score variance_score, 100) }这个脚本的原理很简单统计句子平均长度、句子长度标准差、还有常见套话词频。AI 生成文本通常会有几个特征句子长度非常均衡、几乎没有长句短句的明显差异、经常出现重复的连接词和总结性套话。真实作者的写作节奏是波动的该短则短、该长则长所以这些统计指标往往和 AI 生成文本拉开差距。我在实际运行中把阈值定在 60 分超过 60 分的文本自动进人工复审低于 60 分的直接放行。但这里有个很大的取舍就是“只做风格指纹会被聪明的提示词绕过”。比如你把“首先其次”这类连接词全部换成“第一个层面、第二个层面”风格指纹就抓不住了。所以风格指纹只是一个“低配拦截层”真正的核心是下一道检查。3.2 再做一个多样性检查相似内容聚类Slop 治理里最隐蔽、最要命的问题不是“单篇看起来很像 AI”而是“成批内容结构重复”。单篇内容你逐字逐句看可能觉得还行但只要你把同一作者、同一账号、同一选题池里的一百篇文章放在一起看就会发现骨架惊人地一致。这种跨文本的重复靠“读”是查不出来的得靠聚类算法。我用 TF-IDF 配合余弦相似度做了一层轻量聚类。核心逻辑是把每篇文章的关键句子向量化然后计算两两之间的相似度相似度超过阈值的文章会被自动标记为“疑似同构内容”。from sklearn.feature_extraction.text import TfidfVectorizer from sklearn.metrics.pairwise import cosine_similarity import numpy as np def duplicate_slop_check(texts: list[str], threshold: float 0.82): vec TfidfVectorizer(ngram_range(2, 3), max_features5000) matrix vec.fit_transform(texts) sim cosine_similarity(matrix) problem_pairs [] for i in range(len(texts)): for j in range(i 1, len(texts)): score sim[i][j] if score threshold: problem_pairs.append({ pair: (i, j), similarity: round(score, 3) }) return problem_pairs这个脚本跑起来非常快几千篇文章几分钟就能出结果。实际使用中我建议阈值从 0.8 开始调太高容易漏太低容易误报。跑完的产物是一批“问题对”人工只需要检查这些配对到底是不是同一套文案换了个标题。如果是就对整批账号或整批内容打上“同构内容”标签同时限制这些内容进入推荐池。这个方法看起来写代码不难但它真正改变的是治理视角你不再追问“这篇文章好不好”而是追问“这个账号产出的整体是不是在偷懒”。治理 Slop 最重要的一步就是学会从单篇判断走向批量判断。3.3 检查结果的落地判断自动检测出来之后一定要有明确的处置动作而不是把结果丢给人去“看着办”。我们团队后来形成了一张简单的处置表检测场景判断结果处置动作风格指纹命中疑似套话文本退给作者修改强制加入人工改写相似度聚类命中同构内容内容降权账号提醒第三篇开始封禁单篇 Slop 分数高但无同构可能为 AI 辅助生成不做处罚但要求发布时标注 AI 参与情况图片水印/畸变特征命中疑似 AI 绘画直接使用退回要求重新出图或标注来源这里有个经验处罚动作一定要和有梯度不要一刀切。第一次踩线是提醒第二次是降权第三次才是封禁。理由是大部分内容生产者并不是恶意制造 Slop他们只是被效率焦虑裹挟了。你把“批量生成”这个路径完全堵死而没告诉他们“好内容”应该怎么产出治理就会变成对着空气挥拳。4. AI Agent 批量生产场景的治理经验如果说前面几节聊的是“人用 AI 生产内容怎么治理”那这一节要聊的 AI Agent 相关实践就是更麻烦的一种情况让 AI 自己带着一批子任务去决策、去检索、去调用工具、去产出结果。AI Agent 的治理难点在于它不再是一个“输入提示词、输出结果”的黑盒而是一套有规划、有行动链的系统你很难在中途靠一次审核把它拦下来。4.1 Agent 很容易变成 Slop 制造机我在好几个 AI 应用开发项目里观察到一个共同现象Agent 比单次大模型调用更容易产生 Slop。原因是 Agent 的每一步都在做一个局部最优判断它会为了完成“最终目标”不断补内容、加流程但没有任何一个环节会主动判断“这些内容是否有信息增量”。举个具体例子我们做过一个 AI 旅游规划助手最初的 Agent 流程是“收集目的地资料 → 生成行程规划 → 生成景点介绍 → 生成注意事项”。跑出来的结果非常“全”每天都排得满满当当每个景点都有介绍但用户反馈说“像是在看百度百科的词条拼接”。这就是典型的 Agent Slop它完成了结构但没有完成理解。为什么因为 Agent 里的每一步都倾向于输出“更多”而不是“更好”。它把信息量理解为覆盖面把覆盖所有可能景点理解为优秀规划。这种倾向本质上是大模型在训练语料里被强化的模式回答越周全越被认为正常。4.2 Agent 治理的几条实操手段针对 Agent 场景我实践下来有效的治理手段有四条分享给大家。第一给 Agent 加“信息约束指令”而不是只加“任务指令”。在每个关键生成节点强制要求模型先列出“本次输出里新增的三个事实点”没有新增事实就不允许生成正文。我还会让 Agent 在生成最终结果之前先自我提问当前输出如果删掉会不会影响用户决策如果不会说明这段输出是冗余的要砍掉。第二给 Agent 加“最大行动深度”限制。很多 Agent 框架默认允许模型多轮猜测、多轮调用工具但行动链越长中间步骤产出的无效内容就越多。我们把无明确收益的中间步骤压缩到三步以内检索相关事实 → 判断事实冲突 → 生成最终答案。不必要的长链条只会让 Slop 增多不会让答案变好。第三在 Agent 的反馈回路里加入人工评价数据。Agent 会不断根据用户交互调整输出但纯点击率和满意度反馈同样偏向 Slop。我们需要定期抽检 Agent 输出由人工标注“是否有信息增量”把这些标注数据反馈进排序和生成策略里让 Agent 学会压低 Slop 倾向而不是只追求表面满意度。第四对 Agent 生成的所有内容做来源强制标注。不管 Agent 里的模型多么“聪明”只要它不能给出可信来源就不允许出现在对外结果里。来源标注表面上是在约束 Agent实际上是在倒逼你在提示词和检索层下更多功夫让 Agent 更依赖可信信源而不是依赖模型自带的“常识”。AI 编程场景也是同理。我们团队让 AI 生成代码时硬性规定生成代码必须给出对应的测试用例让 AI 生成设计稿时硬性要求标注使用的组件库和间距规范。这些看起来是“多此一举”的约束实际上都是治 Slop 的手段——把你的数据标准和信息标准前置到生成环节而不是等生成完再返工。5. 度量、迭代与常见翻车点5.1 度量指标怎么定没有度量就没有治理。你花了大工夫搭流程、写脚本、做审核怎么证明它有效怎么向老板汇报怎么让团队清晰感知“我们的内容变好了”这些都需要指标。我们最终落地了一套三级指标体系大家可以参考第一级是“基本健康指标”包括日均低质内容拦截量、同构内容检出量、用户举报量。这些指标衡量的是“垃圾有没有减少”。第二级是“内容体验指标”包括内容的平均停留时长、完成率、推荐后的二次转化率、用户长按“不感兴趣”的比率。这里有个大家容易犯的错误不要只看点击率点击率只反映了标题和首图的钩子能力真正反映内容质量的是“用户看到一半是否离开”。第三级是“生产者行为指标”包括生产者月均原创选题比例、人工改写率、被退回修改率、同一账号低质内容重复率。这个指标衡量的是“我们的约束有没有改变生产者的习惯”。只要生产者的行为没有变化你前面所有流程都只是在拦截而不是在治理。这个指标体系和推荐系统的指标口径是打通的。我建议在推荐系统里把“同构内容降权”作为一个明确的策略因子只要命中同构标签内容可以直接降级到冷门流量池。没有这套联动治理流程做得再漂亮被抓出来的 Slop 还是会通过其他渠道继续漏出去。5.2 常见问题与排查心得最后分享一些我们在实战中踩过的坑和解决办法也是想让大家少走点弯路。我遇到最多的一个问题是“自动检测脚本误杀率太高团队怨声载道”。排查后发现根因是风格指纹的阈值定得太低加上测试集没覆盖“真人写得规整”的情况。解决办法是给小样本加了人工标注重新校准了阈值同时在处置动作里加入了“申诉通道”。内容作者可以申诉“我的内容确实是自己写的”申诉成功后该内容会重新进入人工评估池。第二个坑是“人工审核标准没法统一”。同一个团队有人宽松有人严格怎么办我们后来做了另一版“标准件库”把曾经被判为 Slop 的优秀样本和典型反面样本收集起来做成对照库每个月更新一次所有审核员都对照样本库来做判断。标准件库这个东西看起来老土但它特别有效因为人对模糊概念的理解必须依靠具体例子锚定。第三个坑是“成体系治理上线后平台内容总量暂时性下降老板开始焦虑”。这是治理内容几乎必然经历的阶段。我的经验是把治理指标和增长指标分开看并且提前给管理层打“预防针”短期内筛选变严优质内容的占比会提升但总量可能会缩水两到三周等生产端调整完习惯总量会回升而且回升之后的留存率和互动质量会比之前好。我们最后验证了这个判断但熬过那两三周的股压感确实不容易。还有一个很容易被忽略的坑存量内容里的 Slop 比新产生的 Slop 还要多。很多团队只治理增量原有的 10 万篇老内容里可能有一大半都符合低质量特征。存量清理不能靠人力逐篇扫我建议复用前面提到的聚类脚本把存量内容全部过一遍筛出同构群组再按群组批量做降权或隐藏处理。最后建议你做任何 Slop 治理都先从小范围试点开始。不要一上来就在全站范围铺开否则边界条件完全不可控大家也很难判断到底是流程不好还是人工执行不到位。先拿一个频道、一个账号池、一个内容类型作为试点跑两到三周把指标跑通把处置动作跑顺再逐步扩大覆盖面。我个人习惯的做法是给每个治理措施都留一个“版本号”。比如提示词约束 V1、自动检测脚本 V2、人工审核单 V3每一项都记录版本变更和效果数据。这样到了后续做迭代分析的时候你能一眼看出到底是哪个版本、哪个环节把指标压下去了。如果你也在被“看着挺多、读着没用”的内容困住希望这篇文章能给你一些能直接上手的东西。先别急着追求“更多的 AI 产出”先把“什么样的输出我们不接受”这个问题想清楚很多治理动作自然而然就长出来了。 
长河君 · 2026/9/7 12:25:43 · 阅读 1.2k AI Slop治理实战：从提示词约束到内容质量检测体系
“AI Slop”这个词我在去年还在内部群里当玩笑调侃今年已经变成内容运营、产品负责人和我这种一线搞技术的人躲不开的日常。做 AI 应用开发的朋友应该都有体感用大模型生成文本、图片、短视频甚至短剧脚本成本已经低到几乎可以忽略于是各种批量生产的“AI 内容”开始铺天盖地地涌进公开渠道。泛化地说这些内容表面格式工整读下来却空无一物它不违法、不违规、技术上也挑不出大毛病但它真的非常“吵”把真正有信息量的内容全部淹没掉。治理这类内容不是靠“看见一篇删一篇”就能解决的。过去半年我带着团队在一条真实内容产品线上做了一整套“AI Slop 治理”的落地实践从制定内容标准、改进提示词和生产流程到搭建自动检测脚本再到处理 AI Agent 批量生产带来的风险最后到用指标衡量治理效果。这套方案覆盖了文本、图片、视频三种形态也踩过不少坑这篇文章我把整个思路和可以直接复用的部分都整理出来。这篇文章适合谁看如果你是内容平台、信息流产品、媒体团队的内容负责人或者你是做 AI 应用、AI 工具、智能体的开发者再或者你只是个人创作者但被自己批量产出的 AI 内容“淹没”过下面的内容应该能直接帮到你。1. AI Slop 治理我们在谈什么1.1 “AI Slop”不是情绪化骂法先说概念。Slop 最早在某些社群里被用来指代那种“看起来完成了、实际没有传达任何信息”的生成内容。后来这个词扩散到整个 AI 内容生态指的就是大模型批量生成的、低信息密度、高度模板化的文本、图片、视频、音频内容。它最典型的表现是语言流畅但没有观点结构完整但没有细节语气端正但没有来源。举个例子你让 AI 写一篇“智能家居发展趋势分析”它可能输出两千字分五个小节每节都有小标题每段还有“首先”“其次”“总而言之”。表面上是完整的行业分析但里面没有真实案例、没有可查证的数据来源、没有你个人的判断所有句子都是“正确的废话”。这种内容放进知识库、放进公众号、放进短视频脚本用户读完以后什么都留不下只会有一种“我好像看了点什么又好像什么都没看”的空虚感。为什么说这不是情绪化骂法而是一个需要被认真治理的工程问题因为 Slop 不是偶发的质量问题而是“规模化生产”带出来的必然副产品。当工具成本趋近于零内容生产的边际成本也趋近于零那么在没有治理约束的情况下生产方式一定会走向“多快好省”的极端也就是大量生成、大量发布、靠概率覆盖用户需求。这和工业时代无节制排放废水废气是一个逻辑。1.2 你工作流里最容易长出 Slop 的三个位置我在治理过程中画过一张很粗糙的“Slop 生成链路图”最后发现几乎所有 Slop 都是从三个位置漏出来的。第一个位置是内容生产源头也就是“提示词到初稿”这一步。很多人给 AI 的提示词本身就要求它“全面、系统、总结”大模型为了迎合这种要求会拼凑出语义上四平八稳、却没有任何信息增量的内容。这还不是最麻烦的最麻烦的是“批量套模板”——同一个选题结构重复用一百次标题换一换、关键词换一换产出看起来每篇都不一样丢进聚类算法里一看全是同一套骨架。第二个位置是人工审核环节。很多团队虽然有审核但审核标准模糊审核员只判断“有没有错别字、有没有敏感词、格式规不规范”完全不判断“这篇内容有没有真实信息增量、有没有事实出处、有没有独特视角”。审核变成了排版检查Slop 自然就漏过去了。第三个位置发生在后端分发也就是推荐系统和算法策略。推荐系统大多优化的是点击率、停留时长、互动率这类短期指标Slop 因为文本顺滑、标题戳人很容易在这些指标上表现不错于是算法会给它更多流量。流量反过来又进一步激励生产者制造更多 Slop形成一个非常顽固的恶性循环。2. 治理体系先定规则再上工具很多团队一上来就让我找“AI 检测工具”我觉得这个顺序反了。工具只能解决“你已经知道要查什么”的问题如果连质量标准、发布规则、责任边界都没定清楚再好的检测器也救不了你。2.1 一个治理框架的四个维度我们后来把整个治理框架拆成四个维度生产端、内容端、发布端、消费端。每个维度对应不同的治理动作。生产端管的是“怎么生成”。你要定清楚哪些环节可以用 AI 提效哪些环节必须人工原创哪些环节生成之后必须有人工修改率底线。比如我们会规定新闻资讯类内容里AI 最多承担资料梳理和初稿扩写事实性描述必须由人工核对并至少改写三分之一观点类内容里AI 只能做素材收集核心论点必须人工撰写。内容端管的是“产出长什么样”。这里要定内容质量的最低线比如是否要求有可验证的数据来源、是否要求有明确的作者信息、是否禁止在正文里使用“总的来说”“值得注意的是”这类高频套话。这些规则看起来很像文案规范但在治理 Slop 时非常关键。发布端管的是“什么内容可以对外发出”。这是拦截 Slop 的最后一道实体关卡一般由人工审核和自动检测共同构成。人工审核的要义不是逐字读而是带着“内容三问”去读这篇内容有没有新信息有没有具体案例有没有独立观点消费端管的是“如何对待已经发布的内容”。包括用户举报通道、低质量内容的折叠与降权以及定期的存量内容清理。2.2 生产端治理提示词约束和生成出口收窄在文本生成这个环节里我踩过最有价值的坑是提示词一定要“反向写”而不是“正向写”。什么叫反向写就是你明确告诉大模型“我不要什么”比告诉它“我要什么”更管用。比如我们团队的初始提示词模板是“帮我写一篇关于智能家居的深度分析文章要求结构清晰、内容专业”产出的东西简直是 Slop 教科书。后来我们改成了一段反向约束你是行业分析师请为以下选题撰写正文。规则 1. 禁止总结常见观点只写你自己有信息增量的部分 2. 禁止使用“首先”“其次”“总而言之”“值得注意的是”等套话 3. 每条核心判断必须附带一个可验证的真实案例或数据来源 4. 全文结构不得使用三段式平行展开优先使用对比、时间线、问题链结构 5. 输出超过 800 字后必须插入一个具体的人物或产品名称。你看同样的模型能力加了这些约束之后输出内容的信息密度立刻不一样了。因为大模型的本质是概率生成你不把低质量的概率通道封死它就倾向走最容易的通道也就是那些在训练语料里出现频率最高的“完美废话”。生成出口收窄也是生产端治理的好办法。具体到操作上就是不要把大模型的“开放续写”直接接到下游而是先在中间加一个“信息点提取层”。我先让模型从参考资料里提取事实、案例、数据、冲突点然后以这些信息点为基础来生成正文。这样生成器不再是自由发挥而是有锚点的扩写产生的 Slop 会显著减少。图片和视频场景同理。我们在做 AI 配图时强制要求不使用通用吉利话语、不给画面加额外的口号文案、不允许直接输出有水印的素材、不允许把 AI 绘画生成的默认风格不加筛选直接发布。生成之后还必须挑出最符合文章信息点的图而不是“看着好看就行”的第一张。2.3 发布端治理人机协同审核单我设计过一份比较成功的人工审核单现在分享出来你直接拿去用就行。审核一份内容时只需要回答下面五个问题这篇内容里是否有至少一条我以前不知道的信息点如果没有退回重写。文中出现的所有数字、人名、品牌名是否可溯源如果查不到出处打回补充来源。删掉所有套话段落后内容是否仍然成立如果内容主体依赖“首先、其次、然后”这种连接词撑结构说明结构是空心的退回重做。标题是否与正文中的核心论点匹配不匹配的情况下优先改标题而不是改正文避免误导点击。如果内容署上真人作者的名字作者本人是否会愿意承担署名责任不愿意说明连你自己都不认可它的质量凭什么发布这套审核单看起来简简单单但实际执行起来效果出奇地好。原因在于它逼迫审核员从“判断格式”转向“判断信息”而信息判断恰恰是 AI 生成内容最薄弱、最容易露馅的地方。3. Slop 检测实战从文本指纹到内容多样性检查规则定完之后需要上自动化手段。我们最终的目标不是检测“这篇是不是 AI 写的”而是检测“这篇是不是 Slop”。这两个目标有重叠但并不完全一样。AI 写的好内容不应该被误杀人写的低质内容也应该被揪出来。3.1 先做一道基础检查AI 风格指纹过滤文本类 Slop 在语言结构上有非常明显的模式特征我们可以把这些特征叫“风格指纹”。我写了一个轻量级 Python 脚本跑在内容发布链路里用来过滤明显符合条件的“套话文本”。import re import statistics HALLMARK_PHRASES [ 总而言之, 总的来说, 值得注意的是, 不难看出, 在当今, 随着社会的飞速发展, 综上所述, 众所周知, 首先, 其次, 然后, 最后, 作为一种重要的, 由此可见 ] def sentence_lengths(text: str) - list[float]: sentences re.split(r[。!?], text) return [len(s) for s in sentences if len(s) 0] def slop_score(text: str) - dict: lengths sentence_lengths(text) low_info_flag 0 for phrase in HALLMARK_PHRASES: if phrase in text: low_info_flag 1 avg_len statistics.mean(lengths) if lengths else 0 std_len statistics.stdev(lengths) if len(lengths) 2 else 0 # 标准化思路把原始指标换算成 0-100 的“可疑分” style_score min(low_info_flag * 8, 40) variance_score 0 if avg_len 30 and std_len 8: variance_score 20 elif avg_len 26 and std_len 5: variance_score 30 return { sentence_avg_len: round(avg_len, 1), sentence_std_len: round(std_len, 1), hallmark_count: low_info_flag, slop_score: min(style_score variance_score, 100) }这个脚本的原理很简单统计句子平均长度、句子长度标准差、还有常见套话词频。AI 生成文本通常会有几个特征句子长度非常均衡、几乎没有长句短句的明显差异、经常出现重复的连接词和总结性套话。真实作者的写作节奏是波动的该短则短、该长则长所以这些统计指标往往和 AI 生成文本拉开差距。我在实际运行中把阈值定在 60 分超过 60 分的文本自动进人工复审低于 60 分的直接放行。但这里有个很大的取舍就是“只做风格指纹会被聪明的提示词绕过”。比如你把“首先其次”这类连接词全部换成“第一个层面、第二个层面”风格指纹就抓不住了。所以风格指纹只是一个“低配拦截层”真正的核心是下一道检查。3.2 再做一个多样性检查相似内容聚类Slop 治理里最隐蔽、最要命的问题不是“单篇看起来很像 AI”而是“成批内容结构重复”。单篇内容你逐字逐句看可能觉得还行但只要你把同一作者、同一账号、同一选题池里的一百篇文章放在一起看就会发现骨架惊人地一致。这种跨文本的重复靠“读”是查不出来的得靠聚类算法。我用 TF-IDF 配合余弦相似度做了一层轻量聚类。核心逻辑是把每篇文章的关键句子向量化然后计算两两之间的相似度相似度超过阈值的文章会被自动标记为“疑似同构内容”。from sklearn.feature_extraction.text import TfidfVectorizer from sklearn.metrics.pairwise import cosine_similarity import numpy as np def duplicate_slop_check(texts: list[str], threshold: float 0.82): vec TfidfVectorizer(ngram_range(2, 3), max_features5000) matrix vec.fit_transform(texts) sim cosine_similarity(matrix) problem_pairs [] for i in range(len(texts)): for j in range(i 1, len(texts)): score sim[i][j] if score threshold: problem_pairs.append({ pair: (i, j), similarity: round(score, 3) }) return problem_pairs这个脚本跑起来非常快几千篇文章几分钟就能出结果。实际使用中我建议阈值从 0.8 开始调太高容易漏太低容易误报。跑完的产物是一批“问题对”人工只需要检查这些配对到底是不是同一套文案换了个标题。如果是就对整批账号或整批内容打上“同构内容”标签同时限制这些内容进入推荐池。这个方法看起来写代码不难但它真正改变的是治理视角你不再追问“这篇文章好不好”而是追问“这个账号产出的整体是不是在偷懒”。治理 Slop 最重要的一步就是学会从单篇判断走向批量判断。3.3 检查结果的落地判断自动检测出来之后一定要有明确的处置动作而不是把结果丢给人去“看着办”。我们团队后来形成了一张简单的处置表检测场景判断结果处置动作风格指纹命中疑似套话文本退给作者修改强制加入人工改写相似度聚类命中同构内容内容降权账号提醒第三篇开始封禁单篇 Slop 分数高但无同构可能为 AI 辅助生成不做处罚但要求发布时标注 AI 参与情况图片水印/畸变特征命中疑似 AI 绘画直接使用退回要求重新出图或标注来源这里有个经验处罚动作一定要和有梯度不要一刀切。第一次踩线是提醒第二次是降权第三次才是封禁。理由是大部分内容生产者并不是恶意制造 Slop他们只是被效率焦虑裹挟了。你把“批量生成”这个路径完全堵死而没告诉他们“好内容”应该怎么产出治理就会变成对着空气挥拳。4. AI Agent 批量生产场景的治理经验如果说前面几节聊的是“人用 AI 生产内容怎么治理”那这一节要聊的 AI Agent 相关实践就是更麻烦的一种情况让 AI 自己带着一批子任务去决策、去检索、去调用工具、去产出结果。AI Agent 的治理难点在于它不再是一个“输入提示词、输出结果”的黑盒而是一套有规划、有行动链的系统你很难在中途靠一次审核把它拦下来。4.1 Agent 很容易变成 Slop 制造机我在好几个 AI 应用开发项目里观察到一个共同现象Agent 比单次大模型调用更容易产生 Slop。原因是 Agent 的每一步都在做一个局部最优判断它会为了完成“最终目标”不断补内容、加流程但没有任何一个环节会主动判断“这些内容是否有信息增量”。举个具体例子我们做过一个 AI 旅游规划助手最初的 Agent 流程是“收集目的地资料 → 生成行程规划 → 生成景点介绍 → 生成注意事项”。跑出来的结果非常“全”每天都排得满满当当每个景点都有介绍但用户反馈说“像是在看百度百科的词条拼接”。这就是典型的 Agent Slop它完成了结构但没有完成理解。为什么因为 Agent 里的每一步都倾向于输出“更多”而不是“更好”。它把信息量理解为覆盖面把覆盖所有可能景点理解为优秀规划。这种倾向本质上是大模型在训练语料里被强化的模式回答越周全越被认为正常。4.2 Agent 治理的几条实操手段针对 Agent 场景我实践下来有效的治理手段有四条分享给大家。第一给 Agent 加“信息约束指令”而不是只加“任务指令”。在每个关键生成节点强制要求模型先列出“本次输出里新增的三个事实点”没有新增事实就不允许生成正文。我还会让 Agent 在生成最终结果之前先自我提问当前输出如果删掉会不会影响用户决策如果不会说明这段输出是冗余的要砍掉。第二给 Agent 加“最大行动深度”限制。很多 Agent 框架默认允许模型多轮猜测、多轮调用工具但行动链越长中间步骤产出的无效内容就越多。我们把无明确收益的中间步骤压缩到三步以内检索相关事实 → 判断事实冲突 → 生成最终答案。不必要的长链条只会让 Slop 增多不会让答案变好。第三在 Agent 的反馈回路里加入人工评价数据。Agent 会不断根据用户交互调整输出但纯点击率和满意度反馈同样偏向 Slop。我们需要定期抽检 Agent 输出由人工标注“是否有信息增量”把这些标注数据反馈进排序和生成策略里让 Agent 学会压低 Slop 倾向而不是只追求表面满意度。第四对 Agent 生成的所有内容做来源强制标注。不管 Agent 里的模型多么“聪明”只要它不能给出可信来源就不允许出现在对外结果里。来源标注表面上是在约束 Agent实际上是在倒逼你在提示词和检索层下更多功夫让 Agent 更依赖可信信源而不是依赖模型自带的“常识”。AI 编程场景也是同理。我们团队让 AI 生成代码时硬性规定生成代码必须给出对应的测试用例让 AI 生成设计稿时硬性要求标注使用的组件库和间距规范。这些看起来是“多此一举”的约束实际上都是治 Slop 的手段——把你的数据标准和信息标准前置到生成环节而不是等生成完再返工。5. 度量、迭代与常见翻车点5.1 度量指标怎么定没有度量就没有治理。你花了大工夫搭流程、写脚本、做审核怎么证明它有效怎么向老板汇报怎么让团队清晰感知“我们的内容变好了”这些都需要指标。我们最终落地了一套三级指标体系大家可以参考第一级是“基本健康指标”包括日均低质内容拦截量、同构内容检出量、用户举报量。这些指标衡量的是“垃圾有没有减少”。第二级是“内容体验指标”包括内容的平均停留时长、完成率、推荐后的二次转化率、用户长按“不感兴趣”的比率。这里有个大家容易犯的错误不要只看点击率点击率只反映了标题和首图的钩子能力真正反映内容质量的是“用户看到一半是否离开”。第三级是“生产者行为指标”包括生产者月均原创选题比例、人工改写率、被退回修改率、同一账号低质内容重复率。这个指标衡量的是“我们的约束有没有改变生产者的习惯”。只要生产者的行为没有变化你前面所有流程都只是在拦截而不是在治理。这个指标体系和推荐系统的指标口径是打通的。我建议在推荐系统里把“同构内容降权”作为一个明确的策略因子只要命中同构标签内容可以直接降级到冷门流量池。没有这套联动治理流程做得再漂亮被抓出来的 Slop 还是会通过其他渠道继续漏出去。5.2 常见问题与排查心得最后分享一些我们在实战中踩过的坑和解决办法也是想让大家少走点弯路。我遇到最多的一个问题是“自动检测脚本误杀率太高团队怨声载道”。排查后发现根因是风格指纹的阈值定得太低加上测试集没覆盖“真人写得规整”的情况。解决办法是给小样本加了人工标注重新校准了阈值同时在处置动作里加入了“申诉通道”。内容作者可以申诉“我的内容确实是自己写的”申诉成功后该内容会重新进入人工评估池。第二个坑是“人工审核标准没法统一”。同一个团队有人宽松有人严格怎么办我们后来做了另一版“标准件库”把曾经被判为 Slop 的优秀样本和典型反面样本收集起来做成对照库每个月更新一次所有审核员都对照样本库来做判断。标准件库这个东西看起来老土但它特别有效因为人对模糊概念的理解必须依靠具体例子锚定。第三个坑是“成体系治理上线后平台内容总量暂时性下降老板开始焦虑”。这是治理内容几乎必然经历的阶段。我的经验是把治理指标和增长指标分开看并且提前给管理层打“预防针”短期内筛选变严优质内容的占比会提升但总量可能会缩水两到三周等生产端调整完习惯总量会回升而且回升之后的留存率和互动质量会比之前好。我们最后验证了这个判断但熬过那两三周的股压感确实不容易。还有一个很容易被忽略的坑存量内容里的 Slop 比新产生的 Slop 还要多。很多团队只治理增量原有的 10 万篇老内容里可能有一大半都符合低质量特征。存量清理不能靠人力逐篇扫我建议复用前面提到的聚类脚本把存量内容全部过一遍筛出同构群组再按群组批量做降权或隐藏处理。最后建议你做任何 Slop 治理都先从小范围试点开始。不要一上来就在全站范围铺开否则边界条件完全不可控大家也很难判断到底是流程不好还是人工执行不到位。先拿一个频道、一个账号池、一个内容类型作为试点跑两到三周把指标跑通把处置动作跑顺再逐步扩大覆盖面。我个人习惯的做法是给每个治理措施都留一个“版本号”。比如提示词约束 V1、自动检测脚本 V2、人工审核单 V3每一项都记录版本变更和效果数据。这样到了后续做迭代分析的时候你能一眼看出到底是哪个版本、哪个环节把指标压下去了。如果你也在被“看着挺多、读着没用”的内容困住希望这篇文章能给你一些能直接上手的东西。先别急着追求“更多的 AI 产出”先把“什么样的输出我们不接受”这个问题想清楚很多治理动作自然而然就长出来了。