最近和几个做AI应用的朋友聊天发现一个挺有意思的现象大家讨论的焦点已经从“这个模型能做什么”变成了“我们到底该怎么用它”。是让它全自动跑还是让它辅助人是追求极致的无人化还是先让人能更好地介入和判断这背后其实是一个更根本的问题我们开发AI最终是为了替代人还是为了增强人斯坦福大学李飞飞教授近期关于“AI应增强人类能动性”的讨论恰好点中了这个核心。她强调AI的目标不应是取代人类而应是增强人类的能力、创造力和能动性。这个观点听起来很“正确”甚至有些老生常谈但在当前AI能力快速迭代、各种“一键生成”、“全自动代理”满天飞的背景下重新审视它却有着非常现实的工程意义。它提醒我们在追逐技术指标和自动化率的同时不能丢掉对“人”在系统中核心位置的思考。1. 从“自动化”到“增强化”一个被忽视的工程范式转变当我们谈论AI工程实践时无论是模型部署、应用开发还是Agent设计一个默认的潜台词往往是“自动化”。我们追求更快的推理速度、更高的准确率、更长的上下文窗口最终目的似乎都是为了减少人的干预让机器能“自己跑起来”。这当然没错效率提升是技术发展的核心驱动力。但问题在于当我们将“自动化”作为唯一或最高目标时很容易陷入几个工程陷阱黑盒依赖与失控风险系统越自动化内部决策逻辑就越不透明。当出现一个意料之外的错误输出时比如AI生成了一段不合规的内容开发者很难快速定位是提示词的问题、模型本身的问题还是数据流的问题。系统成了一个“黑盒”人的调试和干预能力被削弱了。责任归属模糊在一个全自动的AI工作流中如果最终结果出了问题责任在谁是提示词工程师、模型提供方、数据清洗人员还是部署运维增强人类能动性的设计会天然地在关键决策点引入人的确认或选择从而明确责任链条。创造力与判断力的旁路很多创造性或高价值判断的工作其过程本身比结果更重要。比如产品设计、战略分析、复杂代码审查。全自动化的AI可能给出一个“看起来不错”的方案但却跳过了人类在思考过程中产生的洞察、权衡和灵感火花。这实际上削弱了人类最核心的能力。李飞飞教授提出的“增强人类能动性”在工程上可以理解为一种范式转变从追求“取代人的操作”转向设计“放大人的能力”的系统。这意味着我们的架构设计、交互界面、工作流编排都需要重新思考如何让人保持在“驾驶位”让AI扮演一个强大的“副驾驶”或“工具集”提供信息、建议、执行重复劳动但把最终的感知、决策和创造权留给人。2. 增强能动性的三大工程实践锚点那么在具体的AI项目开发中如何落地“增强能动性”这个理念它不能停留在口号上必须转化为可设计、可编码、可测试的工程原则。我认为有三个关键的锚点。2.1 设计可解释与可干预的交互界面一个增强人的系统首先必须是“可读”和“可写”的。这直接体现在用户与AI的交互界面上。过程透明而非只给结果不要只展示AI生成的最终答案。对于重要的任务应该同时提供推理链Chain-of-Thought、置信度分数、参考的来源片段如RAG中的引用。例如一个AI辅助法律条文检索的工具不能只给结论而应该高亮出得出该结论所依据的具体法律条款原文并说明这些条款与当前案例的相关性。这让人能够评估AI判断的合理性。提供“控制杆”和“选择权”将AI的能力参数化、模块化暴露给用户控制。比如在AI绘画中除了输入提示词还应提供风格强度、构图权重、随机种子等调节选项在AI代码生成中可以提供“更保守/更创新”、“更简洁/更详细”等模式选择。这相当于把AI从一个黑箱生成器变成了一个可由人精细调校的乐器。支持渐进式细化与迭代交互应该支持“对话式”或“草稿式”的协作。用户可以先让AI生成一个初稿、一个大纲或几个选项然后在此基础上提出修改意见“更正式一些”、“第三个方案不错但把第二部分和第一部分对调”AI再据此迭代。这模仿了人类团队协作的模式人始终是方向的把控者。工程落地示例在设计一个基于大模型的文档分析Agent时不要设计成“上传文档 - 等待 - 输出一份分析报告”。更好的方式是AI先输出一个报告框架目录。用户可以选择深入查看某个章节的详细分析。AI对每个观点都附上原文中的证据引用。用户可以对某个分析点提出质疑或要求补充AI进行针对性重分析。最终报告生成前提供一个所有关键结论和引用的确认页面。2.2 构建人机协同的混合工作流“增强”意味着人和AI各司其职在同一个工作流中协同。我们需要识别出流程中哪些环节适合AI高效处理哪些环节必须由人类主导。AI擅长模式匹配、信息检索、内容生成、重复性任务执行。例如从海量日志中定位异常模式、从知识库中快速找到相关案例、根据模板生成代码草稿、批量处理图片格式转换。人类必须主导价值判断、伦理权衡、创造性构思、复杂问题定义、责任承担。例如决定商业策略的最终方向、审核AI生成内容是否符合法规与公序良俗、提出全新的产品创意、在模糊情境下做出决策。一个增强能动性的工作流会像接力赛一样设计交接棒。例如一个智能客服工单处理系统AI第一棒自动分类工单技术问题/账单咨询/投诉、提取关键实体订单号、错误代码、从知识库中检索标准解决方案草稿。人类交接与决策客服人员收到的是经过AI预处理的工单附带了分类建议、关键信息和解决方案草稿。人员快速审核AI的预处理是否正确并基于草稿进行个性化修改或判断是否需要升级处理。AI辅助执行人员确认回复方案后AI可以自动填充回复模板或根据人员选择的语气正式/亲切润色语言。人类最终发送人员在发送前做最终确认。在这个流程中AI极大地提升了客服人员处理单一工单的效率信息聚合、草稿生成但所有的价值判断、情感沟通和最终责任仍然牢牢掌握在人类手中。2.3 将评估与调试能力赋予开发者增强能动性不仅针对最终用户也针对我们这些AI系统的开发者。一个“增强型”的AI开发工具链应该让开发者能更轻松地理解、评估和调试AI组件的行为。超越准确率的评估体系对于生成式AI不能只看BLEU、ROUGE分数。需要建立一套更能反映“是否对人有用”的评估指标例如事实一致性、无害性、指令遵循程度、输出多样性等。同时要设计方便的人工评估流程将人的反馈如评分、排序、修正快速纳入迭代循环。可观测性与诊断工具系统需要提供详细的日志和追踪Trace功能记录AI模型在每个步骤的输入、输出、中间结果以及调用的工具。当出现问题时开发者能像调试传统软件一样通过追踪链定位是哪个环节的提示词、数据或模型逻辑出了问题。一些开源项目如LangSmith、Phoenix正在这个方向努力。“提示词即代码”的工程实践将驱动AI的提示词Prompt视为需要版本管理、测试、评审的代码。建立提示词的单元测试验证给定输入是否产生期望的输出或格式、集成测试验证多步工作流的正确性。这能让提示词的迭代更可控减少“玄学调参”。3. 当前热门AI实践中的能动性审视结合输入材料中提及的一些热点方向我们可以具体分析一下其中“增强能动性”的体现或缺失。AI Agent智能体这是能动性问题的前沿阵地。一个设计良好的Agent应该明确自己的边界在遇到不确定性高或超出预设范围的任务时主动向人类寻求指导“请示”而不是自行其是导致潜在风险。它的目标应是高效完成人类指派的具体、明确的任务而不是追求完全自主的“通用智能”。AI编程Cursor, GitHub Copilot这类工具是“增强开发者能动性”的典范。它们不会直接写完整应用而是在开发者写下一行注释或半个函数名时提供代码补全建议。开发者拥有完全的接受、修改或拒绝的权利。最佳实践是将其用作“超级联想工具”和“细节实现助手”而由开发者掌控整体架构和核心逻辑。AI绘画/视频/短剧制作在这里能动性体现在“创意引导”而非“创意替代”。AI应该是一个强大的素材生成器和风格化工具帮助创作者将脑海中的画面快速可视化进行风格探索和迭代。但故事的灵魂、分镜的构思、情感的传递这些核心创作活动必须由人主导。工具应该降低技术门槛而不是降低创意门槛。“无限制”AI聊天与生图这是一个需要警惕的方向。对“违禁词”的突破往往伴随着对内容安全、伦理边界的挑战。增强能动性不等于赋予AI无限制的自由而是让人在合理的、安全的框架内更有效地利用AI的能力。一个负责任的系统应该在增强创造力的同时内置必要的安全护栏和伦理考量这本身也是对用户和社会的一种保护。模型部署与工程实践在追求低延迟、高并发的模型服务部署时同样要考虑能动性。例如在API设计上除了返回生成结果是否可以可选地返回生成过程的token概率分布或注意力权重在流式输出时是否允许用户在中途打断并提供新的指引这些设计都能让上游应用更好地实现人机协同。4. 从理念到项目一个增强型AI系统的构建清单如果你正在启动或重构一个AI项目并希望将“增强人类能动性”作为核心原则可以参考以下清单进行设计和评审目标澄清本项目首要目标是提升人的效率、创造力、决策质量还是完全取代某个人工环节项目中哪些环节必须保留人类的最终判断权、审核权或创意发起权交互设计用户能否看到AI得出结论的关键依据或推理过程用户是否能在关键参数上进行调节以影响AI的输出风格或倾向工作流是否支持“人类-AI-人类”的多轮交互与迭代而不是一次性输入输出工作流设计是否清晰划分了AI自动化处理的环节和需要人工介入的环节在交接点上是否为人类提供了足够清晰、结构化的信息AI的初步成果、置信度、备选方案以支持快速决策当AI遇到高不确定性或超出能力范围的情况时是否有明确的“向上汇报”Escalation机制评估与调试除了传统准确率指标是否建立了包含有用性、安全性、可控性等维度的评估体系开发者是否拥有足够的工具来追踪和诊断AI组件在整个工作流中的行为是否建立了收集和处理人类反馈正面/负面的闭环流程用于持续优化系统伦理与安全系统设计是否考虑了可能的误用或有害输出是否有机制防止AI在未经明确指令的情况下自主做出具有重大影响的决策用户是否清楚了解AI能力的边界以及自身需要承担的责任李飞飞教授的观点之所以在当下尤为重要是因为它为我们狂热的技术演进提供了一个至关重要的“校准器”。AI的终极价值不在于建造一个能独立运行的“硅基生命”而在于打造一面更亮的镜子、一把更快的锤子、一位更博学的伙伴——一切旨在映照、延伸和激发我们自身独有的智慧、情感与创造力。作为构建者我们的任务不是编写取代自己的代码而是设计能够让我们飞得更高的翅膀。下一次当你设计AI系统的架构或交互时不妨先问一句这个设计是让我更接近问题的核心还是让我更远离了掌控力 
长河君 · 2026/9/2 10:54:33 · 阅读 1.2k AI工程实践：从自动化到增强人类能动性的范式转变
最近和几个做AI应用的朋友聊天发现一个挺有意思的现象大家讨论的焦点已经从“这个模型能做什么”变成了“我们到底该怎么用它”。是让它全自动跑还是让它辅助人是追求极致的无人化还是先让人能更好地介入和判断这背后其实是一个更根本的问题我们开发AI最终是为了替代人还是为了增强人斯坦福大学李飞飞教授近期关于“AI应增强人类能动性”的讨论恰好点中了这个核心。她强调AI的目标不应是取代人类而应是增强人类的能力、创造力和能动性。这个观点听起来很“正确”甚至有些老生常谈但在当前AI能力快速迭代、各种“一键生成”、“全自动代理”满天飞的背景下重新审视它却有着非常现实的工程意义。它提醒我们在追逐技术指标和自动化率的同时不能丢掉对“人”在系统中核心位置的思考。1. 从“自动化”到“增强化”一个被忽视的工程范式转变当我们谈论AI工程实践时无论是模型部署、应用开发还是Agent设计一个默认的潜台词往往是“自动化”。我们追求更快的推理速度、更高的准确率、更长的上下文窗口最终目的似乎都是为了减少人的干预让机器能“自己跑起来”。这当然没错效率提升是技术发展的核心驱动力。但问题在于当我们将“自动化”作为唯一或最高目标时很容易陷入几个工程陷阱黑盒依赖与失控风险系统越自动化内部决策逻辑就越不透明。当出现一个意料之外的错误输出时比如AI生成了一段不合规的内容开发者很难快速定位是提示词的问题、模型本身的问题还是数据流的问题。系统成了一个“黑盒”人的调试和干预能力被削弱了。责任归属模糊在一个全自动的AI工作流中如果最终结果出了问题责任在谁是提示词工程师、模型提供方、数据清洗人员还是部署运维增强人类能动性的设计会天然地在关键决策点引入人的确认或选择从而明确责任链条。创造力与判断力的旁路很多创造性或高价值判断的工作其过程本身比结果更重要。比如产品设计、战略分析、复杂代码审查。全自动化的AI可能给出一个“看起来不错”的方案但却跳过了人类在思考过程中产生的洞察、权衡和灵感火花。这实际上削弱了人类最核心的能力。李飞飞教授提出的“增强人类能动性”在工程上可以理解为一种范式转变从追求“取代人的操作”转向设计“放大人的能力”的系统。这意味着我们的架构设计、交互界面、工作流编排都需要重新思考如何让人保持在“驾驶位”让AI扮演一个强大的“副驾驶”或“工具集”提供信息、建议、执行重复劳动但把最终的感知、决策和创造权留给人。2. 增强能动性的三大工程实践锚点那么在具体的AI项目开发中如何落地“增强能动性”这个理念它不能停留在口号上必须转化为可设计、可编码、可测试的工程原则。我认为有三个关键的锚点。2.1 设计可解释与可干预的交互界面一个增强人的系统首先必须是“可读”和“可写”的。这直接体现在用户与AI的交互界面上。过程透明而非只给结果不要只展示AI生成的最终答案。对于重要的任务应该同时提供推理链Chain-of-Thought、置信度分数、参考的来源片段如RAG中的引用。例如一个AI辅助法律条文检索的工具不能只给结论而应该高亮出得出该结论所依据的具体法律条款原文并说明这些条款与当前案例的相关性。这让人能够评估AI判断的合理性。提供“控制杆”和“选择权”将AI的能力参数化、模块化暴露给用户控制。比如在AI绘画中除了输入提示词还应提供风格强度、构图权重、随机种子等调节选项在AI代码生成中可以提供“更保守/更创新”、“更简洁/更详细”等模式选择。这相当于把AI从一个黑箱生成器变成了一个可由人精细调校的乐器。支持渐进式细化与迭代交互应该支持“对话式”或“草稿式”的协作。用户可以先让AI生成一个初稿、一个大纲或几个选项然后在此基础上提出修改意见“更正式一些”、“第三个方案不错但把第二部分和第一部分对调”AI再据此迭代。这模仿了人类团队协作的模式人始终是方向的把控者。工程落地示例在设计一个基于大模型的文档分析Agent时不要设计成“上传文档 - 等待 - 输出一份分析报告”。更好的方式是AI先输出一个报告框架目录。用户可以选择深入查看某个章节的详细分析。AI对每个观点都附上原文中的证据引用。用户可以对某个分析点提出质疑或要求补充AI进行针对性重分析。最终报告生成前提供一个所有关键结论和引用的确认页面。2.2 构建人机协同的混合工作流“增强”意味着人和AI各司其职在同一个工作流中协同。我们需要识别出流程中哪些环节适合AI高效处理哪些环节必须由人类主导。AI擅长模式匹配、信息检索、内容生成、重复性任务执行。例如从海量日志中定位异常模式、从知识库中快速找到相关案例、根据模板生成代码草稿、批量处理图片格式转换。人类必须主导价值判断、伦理权衡、创造性构思、复杂问题定义、责任承担。例如决定商业策略的最终方向、审核AI生成内容是否符合法规与公序良俗、提出全新的产品创意、在模糊情境下做出决策。一个增强能动性的工作流会像接力赛一样设计交接棒。例如一个智能客服工单处理系统AI第一棒自动分类工单技术问题/账单咨询/投诉、提取关键实体订单号、错误代码、从知识库中检索标准解决方案草稿。人类交接与决策客服人员收到的是经过AI预处理的工单附带了分类建议、关键信息和解决方案草稿。人员快速审核AI的预处理是否正确并基于草稿进行个性化修改或判断是否需要升级处理。AI辅助执行人员确认回复方案后AI可以自动填充回复模板或根据人员选择的语气正式/亲切润色语言。人类最终发送人员在发送前做最终确认。在这个流程中AI极大地提升了客服人员处理单一工单的效率信息聚合、草稿生成但所有的价值判断、情感沟通和最终责任仍然牢牢掌握在人类手中。2.3 将评估与调试能力赋予开发者增强能动性不仅针对最终用户也针对我们这些AI系统的开发者。一个“增强型”的AI开发工具链应该让开发者能更轻松地理解、评估和调试AI组件的行为。超越准确率的评估体系对于生成式AI不能只看BLEU、ROUGE分数。需要建立一套更能反映“是否对人有用”的评估指标例如事实一致性、无害性、指令遵循程度、输出多样性等。同时要设计方便的人工评估流程将人的反馈如评分、排序、修正快速纳入迭代循环。可观测性与诊断工具系统需要提供详细的日志和追踪Trace功能记录AI模型在每个步骤的输入、输出、中间结果以及调用的工具。当出现问题时开发者能像调试传统软件一样通过追踪链定位是哪个环节的提示词、数据或模型逻辑出了问题。一些开源项目如LangSmith、Phoenix正在这个方向努力。“提示词即代码”的工程实践将驱动AI的提示词Prompt视为需要版本管理、测试、评审的代码。建立提示词的单元测试验证给定输入是否产生期望的输出或格式、集成测试验证多步工作流的正确性。这能让提示词的迭代更可控减少“玄学调参”。3. 当前热门AI实践中的能动性审视结合输入材料中提及的一些热点方向我们可以具体分析一下其中“增强能动性”的体现或缺失。AI Agent智能体这是能动性问题的前沿阵地。一个设计良好的Agent应该明确自己的边界在遇到不确定性高或超出预设范围的任务时主动向人类寻求指导“请示”而不是自行其是导致潜在风险。它的目标应是高效完成人类指派的具体、明确的任务而不是追求完全自主的“通用智能”。AI编程Cursor, GitHub Copilot这类工具是“增强开发者能动性”的典范。它们不会直接写完整应用而是在开发者写下一行注释或半个函数名时提供代码补全建议。开发者拥有完全的接受、修改或拒绝的权利。最佳实践是将其用作“超级联想工具”和“细节实现助手”而由开发者掌控整体架构和核心逻辑。AI绘画/视频/短剧制作在这里能动性体现在“创意引导”而非“创意替代”。AI应该是一个强大的素材生成器和风格化工具帮助创作者将脑海中的画面快速可视化进行风格探索和迭代。但故事的灵魂、分镜的构思、情感的传递这些核心创作活动必须由人主导。工具应该降低技术门槛而不是降低创意门槛。“无限制”AI聊天与生图这是一个需要警惕的方向。对“违禁词”的突破往往伴随着对内容安全、伦理边界的挑战。增强能动性不等于赋予AI无限制的自由而是让人在合理的、安全的框架内更有效地利用AI的能力。一个负责任的系统应该在增强创造力的同时内置必要的安全护栏和伦理考量这本身也是对用户和社会的一种保护。模型部署与工程实践在追求低延迟、高并发的模型服务部署时同样要考虑能动性。例如在API设计上除了返回生成结果是否可以可选地返回生成过程的token概率分布或注意力权重在流式输出时是否允许用户在中途打断并提供新的指引这些设计都能让上游应用更好地实现人机协同。4. 从理念到项目一个增强型AI系统的构建清单如果你正在启动或重构一个AI项目并希望将“增强人类能动性”作为核心原则可以参考以下清单进行设计和评审目标澄清本项目首要目标是提升人的效率、创造力、决策质量还是完全取代某个人工环节项目中哪些环节必须保留人类的最终判断权、审核权或创意发起权交互设计用户能否看到AI得出结论的关键依据或推理过程用户是否能在关键参数上进行调节以影响AI的输出风格或倾向工作流是否支持“人类-AI-人类”的多轮交互与迭代而不是一次性输入输出工作流设计是否清晰划分了AI自动化处理的环节和需要人工介入的环节在交接点上是否为人类提供了足够清晰、结构化的信息AI的初步成果、置信度、备选方案以支持快速决策当AI遇到高不确定性或超出能力范围的情况时是否有明确的“向上汇报”Escalation机制评估与调试除了传统准确率指标是否建立了包含有用性、安全性、可控性等维度的评估体系开发者是否拥有足够的工具来追踪和诊断AI组件在整个工作流中的行为是否建立了收集和处理人类反馈正面/负面的闭环流程用于持续优化系统伦理与安全系统设计是否考虑了可能的误用或有害输出是否有机制防止AI在未经明确指令的情况下自主做出具有重大影响的决策用户是否清楚了解AI能力的边界以及自身需要承担的责任李飞飞教授的观点之所以在当下尤为重要是因为它为我们狂热的技术演进提供了一个至关重要的“校准器”。AI的终极价值不在于建造一个能独立运行的“硅基生命”而在于打造一面更亮的镜子、一把更快的锤子、一位更博学的伙伴——一切旨在映照、延伸和激发我们自身独有的智慧、情感与创造力。作为构建者我们的任务不是编写取代自己的代码而是设计能够让我们飞得更高的翅膀。下一次当你设计AI系统的架构或交互时不妨先问一句这个设计是让我更接近问题的核心还是让我更远离了掌控力