把零样本和少样本提示词放在一起对比是我在做实际项目时最常遇到的取舍之一。很多刚开始接触大模型应用的人会理所当然地认为多给几个示例肯定比不给示例效果好可真跑到评测集上一测结果往往不是这么回事。有些任务少样本一用就提升明显有些任务加了示例反而把模型带偏。这篇内容不打算讲太抽象的概念而是从我实际调试提示词的经验出发把这两种方式的差异、适用场景、实验方法和避坑点掰开来说。1. 拆解零样本与少样本提示词的本质差异1.1 什么是零样本和少样本提示词零样本提示词是最常见的一种使用方式。你直接给大模型一段任务描述不提供任何输入输出示例模型完全依靠预训练阶段积累的知识来理解任务并生成答案。比如你写“请判断下面这段用户评论的情感倾向是正面还是负面只输出‘正面’或‘负面’”然后接上一条评论这就是一个标准的零样本提示词。少样本提示词则是在任务描述之后附带若干个完整的输入输出示例再放上真正需要处理的目标输入。示例数量通常在2到6个之间太少起不到示范作用太多会挤压上下文空间、增加推理延迟和成本。它的核心逻辑是让模型从示例中推断出你想要的任务模式、输出格式、风格偏好和判断标准。我见过很多团队的第一次提示词改造就是简单地把零样本改成少样本往提示词里硬塞三四个例子然后期待效果变好。结果发现有些任务确实提高了准确率有些任务却莫名其妙地开始模仿示例中的错误或无关特征。这里面的原因并不是“示例越多越好”这么简单。从模型工作机制来看零样本依赖的是模型“理解指令”的能力少样本则依赖模型“在上下文中进行模式匹配”的能力。前者适合那些模型已经比较熟悉、指令表达清晰的任务后者适合那些模型不太熟悉、但通过几个具体例子就能快速建立映射关系的任务。理解了这两个依赖方向你才能判断手头的任务更适合走哪条路。1.2 示例为什么能起作用在上下文中的学习机制少样本提示词之所以有效是因为它触发了大模型的一种能力这种能力在学术上叫上下文学习。模型在推理时并不会重新训练参数但示例会改变模型的注意力分布让它在生成下一个token时更倾向于模仿示例中的输入输出映射。我用一个生活化的类比帮你理解这件事你请一个实习生做数据标注只给他一份标注规范他可能会犹豫但如果你顺手在规范下面贴了两三条已经标好的记录他马上就能照葫芦画瓢。大模型也一样示例承担了“现场教学”的角色。这里有个关键点是示例的质量远比数量重要。我在某智能客服项目里做过一次实验把两个错误的标注示例放在正确示例前面模型对后续分类的结果立刻恶化准确率下降了接近20个百分点。原因是模型会把错误的映射关系也当成一种规则来学习而且通常它会更看重靠后的示例如果靠后位置恰好是错误示例影响会更大。所以要理解的一点是少样本不是简单的“给模型看例子”而是“给模型看能代表你任务本质的好例子”。你把什么样的输入输出对喂给模型模型就倾向于认为你的任务是什么样子的。这个认知是所有后续操作的基础。2. 对比分析影响效果的核心变量2.1 两种方式在不同任务上的表现差异不是所有任务都适合用少样本。根据我实测的经验可以把常见任务粗略分成三类。第一类是模型在预训练阶段已经见过大量类似数据的任务比如通用的情感分类、新闻分类、文本翻译。这类任务你用零样本提示词往往就能达到不错的效果少样本带来的提升幅度有限甚至会因为示例扰乱了模型原有的先验判断而小幅度下降。第二类是格式要求严格或判断标准相对不自然的任务比如从文本里抽取特定字段并按JSON输出、把文本转换成特定模板风格的段落、对内容进行多标签分类且标签之间并非互斥。这类任务少样本几乎是刚需。你光靠描述很难把“到底要输出成什么样子”说清楚但一个格式正确的示例顶得上几百字描述。第三类是高度依赖领域知识的任务比如医疗文本分诊、法律文书要素识别。这类任务如果你不加示例模型只能凭通用知识去猜如果你加了几个领域内的标注样本准确率通常会明显提升。不过要注意如果领域知识超出了模型本身的认知范围示例再多也很难弥补这时应该考虑微调或检索增强而不是继续堆提示词。我用一个表格来概括我常用的选择逻辑任务特征零样本表现少样本表现推荐倾向通用能力、指令清晰良好提升有限先用零样本再酌情增加输出格式复杂、规则性强时好时坏明显更稳定使用少样本固定格式示例领域知识密集依赖模型知识储备能有效校准输出少样本优先必要时配合检索对上下文长度敏感低开销输入变长、延迟增加权衡效果与成本2.2 示例数量、质量与顺序带来的差异少样本的数量并不是线性提升效果。我实际测试过1个、2个、4个、6个示例的差异从0到1的提升往往最明显从1到2也有帮助但从2到4的提升就因人而异了有些任务4个示例反而比2个示例差。原因并不神秘示例多了模型会尝试从中归纳一个更通用的规律如果几个示例之间存在细微的不一致这种归纳就会出问题。示例的一致性是我特别强调的一点。所谓一致包含任务层面的格式一致、标签风格一致、语气一致。比如你让模型把评论分成“正向”“负向”“中性”三类示例里就不能出现“好评”“差评”这样的同义变体。示例之间的输入长度也尽量保持一致长文本示例和短文本示例混在一起会让模型在格式上无所适从。示例顺序也有讲究。我通常遵循一个简单原则把最典型、最不容易产生歧义的示例放在靠后位置因为模型对越靠后的上下文信息越敏感。如果有多个示例最后一个示例的基本上决定了模型对整体任务的最终印象。2.3 不同模型对提示词方式的敏感度各不相同这一点经常被忽略。不同体量和不同训练策略的模型对零样本和少样本的反应差异很大。小参数模型在零样本时经常听不懂指令必须靠几个示例才能正确输出大参数模型本身就具备很强的指令跟随能力零样本往往就够用。我做过的另一个项目里同一套提示词在甲模型的零样本效果远好于乙模型但乙模型加上少样本后反超了甲模型。这提醒我们不要拿着一个模型上验证过的结论去套另一个模型模型换了提示词策略也应该重新验证一遍。如果实在不清楚当前模型的偏好我建议做一个小实验固定测试集分别跑零样本版本、单示例版本、双示例版本对比输出格式正确率和任务准确率。这个实验的成本并不高却能一次搞清楚该往哪个方向优化。3. 实测过程一个文本分类案例的对比记录3.1 实验设计思路为了更直观地展示零样本和少样本的差异我拿一个常规的电商评论情感分类任务来做实验。这个任务本身不复杂但它很能说明问题因为几乎所有模型对它都有基础能力这样看到的效果差异才能归因于提示词策略本身。我用了一个包含200条人工标注的测试集标签统一为“正向”“负向”“中性”。实验分成几组第一组是纯零样本只用一句话描述任务第二组是单示例第三组是双示例第四组是四示例。每组使用相同的模型、相同的温度参数和相同的最大输出长度避免其他变量干扰。提示词模板我用了一个简单但稳定的结构先交代任务背景再说明输出要求然后放示例最后放目标输入。这个结构本身也是我从多次调试中沉淀下来的比把示例放在开头或中间更稳定。零样本版本的提示词写作请判断以下电商评论的情感倾向只能输出“正向”“负向”或“中性”三个词之一不要输出其他内容。 评论这个手机电池续航很一般半天就没电了。单示例版本则是在描述和输入之间插入一条示例请判断以下电商评论的情感倾向只能输出“正向”“负向”或“中性”三个词之一不要输出其他内容。 示例 评论物流很快包装也很严实。 结果正向 评论这个手机电池续航很一般半天就没电了。双示例版本会增加一个反向案例的示例让模型看清边界。四示例版本则试图覆盖更多变体包括正向、负向、中性以及带模糊情绪的情况。3.2 结果数据与观察实测下来的数据和我的经验预测基本一致实验组准确率%输出格式错误率%零样本87.50.5单示例90.00双示例91.50四示例90.00从数据上看单示例和双示例确实带来了提升但从双示例到四示例反而下降了1.5个百分点。我把错误样本拿出来逐条分析后发现问题出在新增的两个示例恰好覆盖了一些比较极端的表达方式模型开始变得“过度解读”把一些原本应该判为中性的评论误判成了正向或负向。在零样本版本的错误样本里最多的情况是模型把“一般般”“还行吧”这类含糊词汇判断成了中性格这属于对语义理解的偏差而在四示例版本里错误变成了对示例中个别词汇的过度关联比如示例中出现过“电池不行”判负向模型就会对包含“电池”字眼的正向评论产生误判。这让我重新审视了一个原则示例数量不是越多越好而是越代表性好越好。四个示例如果分布不均匀还不如两个精心挑选的示例。3.3 什么情况下少样本反而不如零样本在实验过程中我还记录到一组有意思的现象当输入文本本身信息量很低时少样本反而会拉低效果。比如测试集中有一条评论只有三个字“绝了”这种表达高度依赖语境零样本时模型至少还会按字面情绪偏向正向处理但如果示例中恰好出现了一条“质量太差了绝了”的负向评论模型就会被这条示例带偏把“绝了”判断为负向。还有一个常见情况是输出格式冲突。比如任务要求只输出一个标签但示例中为了让模型理解而写了“情感倾向正向”这种带前缀的格式模型就会学着输出带前缀的内容反而破坏了下游解析逻辑。因此我强烈建议少样本示例的输出部分必须和真实任务的输出格式完全一致连提示词里的前后缀都不要加多余内容。少样本不是用来救命的它更多是对齐格式和边界条件的一个工具。如果零样本版本已经表现出指令跟随良好、只是偶尔判断不准那问题可能不在示例数量上而在于任务描述本身不够清晰或者模型的知识储备就不够。4. 落地实战时的避坑清单与实操心得4.1 先别急着加示例如何快速判断优化方向拿到一个提示词优化任务时我习惯先跑一次零样本基线然后仔细看几个典型的错误输出。这一步能提供非常重要的方向判断如果错误输出是格式不对优先考虑设计示例来示范格式如果错误输出是语义理解有偏差优先考虑修改任务描述或者追加约束如果错误输出是知识盲区加示例帮助有限需要结合外部知识或小规模微调。把优化方向想清楚再动手比盲目在提示词里加示例有效得多。我见过不少同事花了一小时调整示例最后发现模型根本问题是没理解标签的定义这属于任务描述层面的问题加再多示例也治标不治本。4.2 示例数量与排列的细节处理心得我总结了一套自用的少样本设计流程。第一步收集当前任务里最容易判断错误和最容易判断正确的样本各两三个构成候选池。第二步优先选择最有代表性的边界样本而不是最典型的样本。边界样本能帮模型划清判断界线典型样本反而价值不大因为模型已经能从指令里理解大多数典型情况。第三步把候选示例按“从一般到特殊”的顺序排列最后一个示例放最具体、最贴近目标输入的案例。这背后有一个心理学上的近因效应类比模型对最后看到的内容印象最深。所以最后一个示例往往承担着“压轴”的作用它最应该展示出你希望模型最终遵循的输出模式。4.3 与RAG和小规模微调结合时的定位提示词层面的零样本和少样本只是整套方案的一个环节。我在实际项目中经常需要把它们和检索增强生成结合起来使用。当任务涉及的知识库内容很广泛时少样本示例无法覆盖所有情况这时候可以动态构建示例每次根据当前输入从知识库里检索最相近的样本然后放到提示词里。这种方法既保留了少样本的模式引导能力又避免了一组静态示例在不同输入之间产生误导。如果任务难度太高少样本带来的提升始终有限那就需要考虑小规模微调。微调的本质是把示例中蕴含的学习模式固化到模型参数里不再依赖每轮输入都携带示例。我通常用的判断标准是如果少样本已经能把准确率带到80%但业务要求90%以上且你拥有几百条高质量的标注数据那微调通常比继续优化示例收益更大。4.4 成本与延迟的权衡少样本提示词还有一个容易被忽视的隐性成本。每增加一个示例Token数量就会增加意味着每次请求的延迟变长、费用变高。在低频的内部工具场景里这也许不是大问题但在高频的线上接口场景比如每天调用几十万次每多出几十个Token都是真金白银。我做过一个粗略计算假设一个示例消耗80个Token四个示例就是320个Token按常见定价估算百万次调用就要多出不少费用。如果零样本能达到95%的准确率少样本只提高到95.5%这时候要不要上少样本就需要冷静评估。我通常会把“准确率提升”和“成本增加”放在一起对比后再决定。5. 常见的误解与排查思路5.1 误解一示例越多效果越好这个误解在前面的实验里已经被打破了。示例数量曲线通常不是单调上升的超过一定数量后模型就可能把示例中的噪声也当作规则。我建议从1个示例起步验证有效后再逐步增加每次增加都跑一遍评测集而不是一口气加满。此外示例并不是独立存在的。样例之间的标签分布也很重要如果四个示例里三个是正向、一个是负向模型可能会倾向于输出正向这等于在隐式地调整输出分布。当任务本身类别不均衡时示例选择就要格外注意否则少样本不仅没帮上忙还给模型注入偏差。5.2 误解二示例可以随意从历史数据里抽很多人直接从业务后台拉几条历史记录就当作示例。这个做法风险很高因为历史记录里的标签可能是旧规范下的产物或者本身存在标注错误。更好的做法是人工检查并重新标注候选示例确保每一条都符合当前任务的输出规范。我自己的习惯是每条示例在进入提示词之前都要在独立测试里跑一次如果模型对这条示例本身的输出都不稳定就果断换掉。5.3 如何排查少样本下的突然崩坏如果你原本零样本效果还行加了示例后反而变差可以按顺序排查这几个环节检查示例的输出格式是否与任务要求完全一致有没有多余说明文字或前缀。检查倒数第一个示例是否具有误导性它在所有示例中权重最大。检查示例的输入长度和语言风格是否与目标输入差异过大。检查示例是否包含了互相矛盾的标签定义或同义变体。检查上下文总长度是否影响了模型对指令部分的注意力分配示例过长时任务描述容易被稀释。这个排查顺序基本能覆盖大部分“加了示例反而变差”的场景。排查时一定要用同一组测试样本去对比避免用几条主观样本得出结论。我个人在这些实操里最大的体会是提示词优化本质上是一个不断做对照实验的过程。零样本和少样本之间并没有绝对的优劣只有是否适合当前场景、当前模型和当前数据分布。每次接到一个新任务我都会花半小时把零样本、单示例、双示例三个版本各跑一遍再根据结果决定投入方向。这个方法虽然笨但在大多数情况下都能让我用最小的成本找到最合适的提示词方案。 
长河君 · 2026/10/21 7:12:46 · 阅读 1.2k 零样本与少样本提示词：选择策略与避坑指南
把零样本和少样本提示词放在一起对比是我在做实际项目时最常遇到的取舍之一。很多刚开始接触大模型应用的人会理所当然地认为多给几个示例肯定比不给示例效果好可真跑到评测集上一测结果往往不是这么回事。有些任务少样本一用就提升明显有些任务加了示例反而把模型带偏。这篇内容不打算讲太抽象的概念而是从我实际调试提示词的经验出发把这两种方式的差异、适用场景、实验方法和避坑点掰开来说。1. 拆解零样本与少样本提示词的本质差异1.1 什么是零样本和少样本提示词零样本提示词是最常见的一种使用方式。你直接给大模型一段任务描述不提供任何输入输出示例模型完全依靠预训练阶段积累的知识来理解任务并生成答案。比如你写“请判断下面这段用户评论的情感倾向是正面还是负面只输出‘正面’或‘负面’”然后接上一条评论这就是一个标准的零样本提示词。少样本提示词则是在任务描述之后附带若干个完整的输入输出示例再放上真正需要处理的目标输入。示例数量通常在2到6个之间太少起不到示范作用太多会挤压上下文空间、增加推理延迟和成本。它的核心逻辑是让模型从示例中推断出你想要的任务模式、输出格式、风格偏好和判断标准。我见过很多团队的第一次提示词改造就是简单地把零样本改成少样本往提示词里硬塞三四个例子然后期待效果变好。结果发现有些任务确实提高了准确率有些任务却莫名其妙地开始模仿示例中的错误或无关特征。这里面的原因并不是“示例越多越好”这么简单。从模型工作机制来看零样本依赖的是模型“理解指令”的能力少样本则依赖模型“在上下文中进行模式匹配”的能力。前者适合那些模型已经比较熟悉、指令表达清晰的任务后者适合那些模型不太熟悉、但通过几个具体例子就能快速建立映射关系的任务。理解了这两个依赖方向你才能判断手头的任务更适合走哪条路。1.2 示例为什么能起作用在上下文中的学习机制少样本提示词之所以有效是因为它触发了大模型的一种能力这种能力在学术上叫上下文学习。模型在推理时并不会重新训练参数但示例会改变模型的注意力分布让它在生成下一个token时更倾向于模仿示例中的输入输出映射。我用一个生活化的类比帮你理解这件事你请一个实习生做数据标注只给他一份标注规范他可能会犹豫但如果你顺手在规范下面贴了两三条已经标好的记录他马上就能照葫芦画瓢。大模型也一样示例承担了“现场教学”的角色。这里有个关键点是示例的质量远比数量重要。我在某智能客服项目里做过一次实验把两个错误的标注示例放在正确示例前面模型对后续分类的结果立刻恶化准确率下降了接近20个百分点。原因是模型会把错误的映射关系也当成一种规则来学习而且通常它会更看重靠后的示例如果靠后位置恰好是错误示例影响会更大。所以要理解的一点是少样本不是简单的“给模型看例子”而是“给模型看能代表你任务本质的好例子”。你把什么样的输入输出对喂给模型模型就倾向于认为你的任务是什么样子的。这个认知是所有后续操作的基础。2. 对比分析影响效果的核心变量2.1 两种方式在不同任务上的表现差异不是所有任务都适合用少样本。根据我实测的经验可以把常见任务粗略分成三类。第一类是模型在预训练阶段已经见过大量类似数据的任务比如通用的情感分类、新闻分类、文本翻译。这类任务你用零样本提示词往往就能达到不错的效果少样本带来的提升幅度有限甚至会因为示例扰乱了模型原有的先验判断而小幅度下降。第二类是格式要求严格或判断标准相对不自然的任务比如从文本里抽取特定字段并按JSON输出、把文本转换成特定模板风格的段落、对内容进行多标签分类且标签之间并非互斥。这类任务少样本几乎是刚需。你光靠描述很难把“到底要输出成什么样子”说清楚但一个格式正确的示例顶得上几百字描述。第三类是高度依赖领域知识的任务比如医疗文本分诊、法律文书要素识别。这类任务如果你不加示例模型只能凭通用知识去猜如果你加了几个领域内的标注样本准确率通常会明显提升。不过要注意如果领域知识超出了模型本身的认知范围示例再多也很难弥补这时应该考虑微调或检索增强而不是继续堆提示词。我用一个表格来概括我常用的选择逻辑任务特征零样本表现少样本表现推荐倾向通用能力、指令清晰良好提升有限先用零样本再酌情增加输出格式复杂、规则性强时好时坏明显更稳定使用少样本固定格式示例领域知识密集依赖模型知识储备能有效校准输出少样本优先必要时配合检索对上下文长度敏感低开销输入变长、延迟增加权衡效果与成本2.2 示例数量、质量与顺序带来的差异少样本的数量并不是线性提升效果。我实际测试过1个、2个、4个、6个示例的差异从0到1的提升往往最明显从1到2也有帮助但从2到4的提升就因人而异了有些任务4个示例反而比2个示例差。原因并不神秘示例多了模型会尝试从中归纳一个更通用的规律如果几个示例之间存在细微的不一致这种归纳就会出问题。示例的一致性是我特别强调的一点。所谓一致包含任务层面的格式一致、标签风格一致、语气一致。比如你让模型把评论分成“正向”“负向”“中性”三类示例里就不能出现“好评”“差评”这样的同义变体。示例之间的输入长度也尽量保持一致长文本示例和短文本示例混在一起会让模型在格式上无所适从。示例顺序也有讲究。我通常遵循一个简单原则把最典型、最不容易产生歧义的示例放在靠后位置因为模型对越靠后的上下文信息越敏感。如果有多个示例最后一个示例的基本上决定了模型对整体任务的最终印象。2.3 不同模型对提示词方式的敏感度各不相同这一点经常被忽略。不同体量和不同训练策略的模型对零样本和少样本的反应差异很大。小参数模型在零样本时经常听不懂指令必须靠几个示例才能正确输出大参数模型本身就具备很强的指令跟随能力零样本往往就够用。我做过的另一个项目里同一套提示词在甲模型的零样本效果远好于乙模型但乙模型加上少样本后反超了甲模型。这提醒我们不要拿着一个模型上验证过的结论去套另一个模型模型换了提示词策略也应该重新验证一遍。如果实在不清楚当前模型的偏好我建议做一个小实验固定测试集分别跑零样本版本、单示例版本、双示例版本对比输出格式正确率和任务准确率。这个实验的成本并不高却能一次搞清楚该往哪个方向优化。3. 实测过程一个文本分类案例的对比记录3.1 实验设计思路为了更直观地展示零样本和少样本的差异我拿一个常规的电商评论情感分类任务来做实验。这个任务本身不复杂但它很能说明问题因为几乎所有模型对它都有基础能力这样看到的效果差异才能归因于提示词策略本身。我用了一个包含200条人工标注的测试集标签统一为“正向”“负向”“中性”。实验分成几组第一组是纯零样本只用一句话描述任务第二组是单示例第三组是双示例第四组是四示例。每组使用相同的模型、相同的温度参数和相同的最大输出长度避免其他变量干扰。提示词模板我用了一个简单但稳定的结构先交代任务背景再说明输出要求然后放示例最后放目标输入。这个结构本身也是我从多次调试中沉淀下来的比把示例放在开头或中间更稳定。零样本版本的提示词写作请判断以下电商评论的情感倾向只能输出“正向”“负向”或“中性”三个词之一不要输出其他内容。 评论这个手机电池续航很一般半天就没电了。单示例版本则是在描述和输入之间插入一条示例请判断以下电商评论的情感倾向只能输出“正向”“负向”或“中性”三个词之一不要输出其他内容。 示例 评论物流很快包装也很严实。 结果正向 评论这个手机电池续航很一般半天就没电了。双示例版本会增加一个反向案例的示例让模型看清边界。四示例版本则试图覆盖更多变体包括正向、负向、中性以及带模糊情绪的情况。3.2 结果数据与观察实测下来的数据和我的经验预测基本一致实验组准确率%输出格式错误率%零样本87.50.5单示例90.00双示例91.50四示例90.00从数据上看单示例和双示例确实带来了提升但从双示例到四示例反而下降了1.5个百分点。我把错误样本拿出来逐条分析后发现问题出在新增的两个示例恰好覆盖了一些比较极端的表达方式模型开始变得“过度解读”把一些原本应该判为中性的评论误判成了正向或负向。在零样本版本的错误样本里最多的情况是模型把“一般般”“还行吧”这类含糊词汇判断成了中性格这属于对语义理解的偏差而在四示例版本里错误变成了对示例中个别词汇的过度关联比如示例中出现过“电池不行”判负向模型就会对包含“电池”字眼的正向评论产生误判。这让我重新审视了一个原则示例数量不是越多越好而是越代表性好越好。四个示例如果分布不均匀还不如两个精心挑选的示例。3.3 什么情况下少样本反而不如零样本在实验过程中我还记录到一组有意思的现象当输入文本本身信息量很低时少样本反而会拉低效果。比如测试集中有一条评论只有三个字“绝了”这种表达高度依赖语境零样本时模型至少还会按字面情绪偏向正向处理但如果示例中恰好出现了一条“质量太差了绝了”的负向评论模型就会被这条示例带偏把“绝了”判断为负向。还有一个常见情况是输出格式冲突。比如任务要求只输出一个标签但示例中为了让模型理解而写了“情感倾向正向”这种带前缀的格式模型就会学着输出带前缀的内容反而破坏了下游解析逻辑。因此我强烈建议少样本示例的输出部分必须和真实任务的输出格式完全一致连提示词里的前后缀都不要加多余内容。少样本不是用来救命的它更多是对齐格式和边界条件的一个工具。如果零样本版本已经表现出指令跟随良好、只是偶尔判断不准那问题可能不在示例数量上而在于任务描述本身不够清晰或者模型的知识储备就不够。4. 落地实战时的避坑清单与实操心得4.1 先别急着加示例如何快速判断优化方向拿到一个提示词优化任务时我习惯先跑一次零样本基线然后仔细看几个典型的错误输出。这一步能提供非常重要的方向判断如果错误输出是格式不对优先考虑设计示例来示范格式如果错误输出是语义理解有偏差优先考虑修改任务描述或者追加约束如果错误输出是知识盲区加示例帮助有限需要结合外部知识或小规模微调。把优化方向想清楚再动手比盲目在提示词里加示例有效得多。我见过不少同事花了一小时调整示例最后发现模型根本问题是没理解标签的定义这属于任务描述层面的问题加再多示例也治标不治本。4.2 示例数量与排列的细节处理心得我总结了一套自用的少样本设计流程。第一步收集当前任务里最容易判断错误和最容易判断正确的样本各两三个构成候选池。第二步优先选择最有代表性的边界样本而不是最典型的样本。边界样本能帮模型划清判断界线典型样本反而价值不大因为模型已经能从指令里理解大多数典型情况。第三步把候选示例按“从一般到特殊”的顺序排列最后一个示例放最具体、最贴近目标输入的案例。这背后有一个心理学上的近因效应类比模型对最后看到的内容印象最深。所以最后一个示例往往承担着“压轴”的作用它最应该展示出你希望模型最终遵循的输出模式。4.3 与RAG和小规模微调结合时的定位提示词层面的零样本和少样本只是整套方案的一个环节。我在实际项目中经常需要把它们和检索增强生成结合起来使用。当任务涉及的知识库内容很广泛时少样本示例无法覆盖所有情况这时候可以动态构建示例每次根据当前输入从知识库里检索最相近的样本然后放到提示词里。这种方法既保留了少样本的模式引导能力又避免了一组静态示例在不同输入之间产生误导。如果任务难度太高少样本带来的提升始终有限那就需要考虑小规模微调。微调的本质是把示例中蕴含的学习模式固化到模型参数里不再依赖每轮输入都携带示例。我通常用的判断标准是如果少样本已经能把准确率带到80%但业务要求90%以上且你拥有几百条高质量的标注数据那微调通常比继续优化示例收益更大。4.4 成本与延迟的权衡少样本提示词还有一个容易被忽视的隐性成本。每增加一个示例Token数量就会增加意味着每次请求的延迟变长、费用变高。在低频的内部工具场景里这也许不是大问题但在高频的线上接口场景比如每天调用几十万次每多出几十个Token都是真金白银。我做过一个粗略计算假设一个示例消耗80个Token四个示例就是320个Token按常见定价估算百万次调用就要多出不少费用。如果零样本能达到95%的准确率少样本只提高到95.5%这时候要不要上少样本就需要冷静评估。我通常会把“准确率提升”和“成本增加”放在一起对比后再决定。5. 常见的误解与排查思路5.1 误解一示例越多效果越好这个误解在前面的实验里已经被打破了。示例数量曲线通常不是单调上升的超过一定数量后模型就可能把示例中的噪声也当作规则。我建议从1个示例起步验证有效后再逐步增加每次增加都跑一遍评测集而不是一口气加满。此外示例并不是独立存在的。样例之间的标签分布也很重要如果四个示例里三个是正向、一个是负向模型可能会倾向于输出正向这等于在隐式地调整输出分布。当任务本身类别不均衡时示例选择就要格外注意否则少样本不仅没帮上忙还给模型注入偏差。5.2 误解二示例可以随意从历史数据里抽很多人直接从业务后台拉几条历史记录就当作示例。这个做法风险很高因为历史记录里的标签可能是旧规范下的产物或者本身存在标注错误。更好的做法是人工检查并重新标注候选示例确保每一条都符合当前任务的输出规范。我自己的习惯是每条示例在进入提示词之前都要在独立测试里跑一次如果模型对这条示例本身的输出都不稳定就果断换掉。5.3 如何排查少样本下的突然崩坏如果你原本零样本效果还行加了示例后反而变差可以按顺序排查这几个环节检查示例的输出格式是否与任务要求完全一致有没有多余说明文字或前缀。检查倒数第一个示例是否具有误导性它在所有示例中权重最大。检查示例的输入长度和语言风格是否与目标输入差异过大。检查示例是否包含了互相矛盾的标签定义或同义变体。检查上下文总长度是否影响了模型对指令部分的注意力分配示例过长时任务描述容易被稀释。这个排查顺序基本能覆盖大部分“加了示例反而变差”的场景。排查时一定要用同一组测试样本去对比避免用几条主观样本得出结论。我个人在这些实操里最大的体会是提示词优化本质上是一个不断做对照实验的过程。零样本和少样本之间并没有绝对的优劣只有是否适合当前场景、当前模型和当前数据分布。每次接到一个新任务我都会花半小时把零样本、单示例、双示例三个版本各跑一遍再根据结果决定投入方向。这个方法虽然笨但在大多数情况下都能让我用最小的成本找到最合适的提示词方案。