使用 LLM 实现结构化输出

发布时间:2026/7/17 12:49:30
使用 LLM 实现结构化输出 Agent智能体是 AI 领域近年来最重要的概念之一。简单来说Agent 是一个能理解你的意图、拆解任务、调用工具、执行操作并自我修正的 AI 系统——它不仅能回答问题还能帮你把事做完。这篇文章以开源框架 Hermes 为例从架构到模块一步步讲清楚 Agent 到底是什么、由哪些部分组成、如何设计自己的 Agent 系统。01/ 什么是 AgentAgent智能体可以这样理解一个能够**「理解任务 → 规划步骤 → 调用工具 → 执行任务 → 反思优化」**的 AI 系统。它和普通的聊天机器人ChatBot有本质区别。对比维度ChatBotAgent交互模式一问一答多轮自主推理工具调用没有有API/文件/代码状态管理无状态有状态上下文/进度记忆能力仅限当前对话跨会话持久记忆自我修正无可反思、重试、调整策略重点结论ChatBot 是一个**「问答机」Agent 是一个「执行系统」**。核心区别在于 Agent 具备工具调用和自主推理能力。02/ Agent 的核心能力业界公认的 Agent 核心能力框架包含五项缺一不可。注意这些是概念框架并非 Hermes 源码中的模块名称。其中第 5 项反思并非独立运行时组件而是 LLM 工具结果回传循环ReAct的固有特性。核心能力01理解能力Comprehension ← 读懂用户到底想干什么02规划能力Planning ← 把复杂任务拆解成可执行的步骤03工具能力Tool Use ← 调用外部系统执行真实操作04记忆能力Memory ← 记住历史跨会话保持上下文05反思能力Reflection ← ReAct 循环中的自我评估与纠错03/ Hermes 的整体架构Hermes 的实际运行时是**「1 个 Agent Loop N 个 Toolsets 记忆后端 Skills Gateway」**。下图是业界通用的 Agent 架构概念示意用于帮助理解各模块间的协作关系——并非每个节点都对应独立的源码组件。架构图一句话总结Hermes 是一个**「带记忆 工具调用 任务规划 反思能力的 LLM 运行时系统」**。04/ 核心模块详解04.1 LLM — 决策引擎「大脑」Agent 的核心决策引擎负责理解输入、做出决策、生成回复。Hermes 支持20 种模型提供商OpenAI、Anthropic、DeepSeek、商汤日日新、本地 Ollama 等用户可随时切换模型无需改动其他配置。LLM 不是「执行者」而是**「调度者」**——它决定什么时候调用什么工具而不是自己直接操作文件系统。这就像公司里 CEO 不做具体工作而是分配任务给各部门。04.2 工具系统Tool System让 Agent 能执行真实世界的操作是 Agent 区别于 ChatBot 的关键能力。Hermes 共提供33 个 toolset非平台特定以下列出最常用的核心工具集。工具集能力举例terminal执行 Shell 命令构建、安装、部署file文件读写/搜索读日志、改配置web网络搜索和内容提取查文档、抓网页code_execution子进程隔离 Python数据处理、计算delegation子任务委派默认同步backgroundTrue 时异步kanban多 Profile 协作队列Dispatcher 分配任务skills可复用技能加载Hermes 差异化特性工作原理LLM 判断需要调用哪个工具 → 生成参数 → 执行器调用实际函数 → 工具返回结果 → 结果回到 LLM 上下文继续推理。这个循环可以重复多次直到不需要再调用工具。设计亮点自我注册每个 tools/*.py 文件在导入时调用 registry.register() 完成注册、安全隔离execute_code 在独立子进程中运行非 OS 级沙箱、条件注册工具依赖满足时才出现。04.3 记忆系统Memory让 Agent 具备跨会话的持久记忆能力「记住你是谁、你的偏好、你的环境」。记忆分两类类型存储位置生命周期作用短期记忆对话上下文当前会话记住前后文长期记忆MEMORY.md / USER.md跨会话持久用户偏好、经验教训Hermes 的记忆实现MEMORY.md个人笔记每次对话自动注入、USER.md用户画像、Honcho / Mem0可插拔持久记忆后端、压缩机制对话过长时自动压缩历史。04.4 规划模块Planning将复杂任务拆解成可执行的步骤序列。Hermes 的规划能力体现在/goal 命令设定长期目标、todo 工具自行拆解任务、delegate_task分派给子 Agent、kanban多 Agent 协同。规划策略**ReActReason Act**→ 先推理再行动行动后再次推理。这是 Hermes 默认采用的模式。Plan-and-Execute→ 先制定完整计划再逐步执行。Hermes 的 /goal 和 todo 体现了这种模式。04.5 执行器ExecutorAgent 的运行时runtime负责协调所有模块的工作。核心设计原则状态外置所有状态存在外部文件系统/SQLite不依赖内存、可观测性每步操作都有日志支持调试和回放、容错机制工具调用失败时自动重试或降级。04.6 反思能力Reflection**注意**Hermes 没有名为Reflection的独立运行时模块。反思是 LLM Tool 结果回传循环的固有特性并非独立组件。Agent 执行完一个步骤后工具结果拼回上下文LLM 在下一轮中基于新信息重新评估——如果发现问题LLM 会自行调整策略、重试或换工具。这就是ReAct 循环的反思机制。04.7 技能系统Skills**Skills 是 Hermes 的核心差异化特性之一。**它将复杂工作流程保存为可复用的 Skill 文档Agent 在后续会话中自动加载相关 Skill避免重复造轮子。使用示例01#安装一个 Skill02hermes skills install some-skill-name0304#查看已安装 Skills05hermes skills list05/ 完整运行流程以一个实际任务为例「帮我做一份 2026 年 AI 趋势汇报的 PPT」运行流程01#1. 用户输入02「帮我做一份 2026 年 AI 趋势汇报的 PPT」0304#2. LLM 理解意图 → 复合任务查资料 整理 生成 PPT0506#3. 规划拆解07① 搜索 2026 年 AI 趋势内容08② 提取关键要点整理大纲09③ 生成 PPT 文件.pptx10④ 保存到工作目录1112#4. 调用工具执行13web_search(query「2026年AI趋势」)14write_file(path「ai_trends_2026.md」)15生成 PPT调用 Python pptxgenjs 脚本1617#5. 反思检查 → 确认 PPT 已创建、页数内容完整1819#6. 输出结果 → 告诉用户 PPT 已生成路径和页数06/ Agent 与 LLM 区别能力层级LLMAgent核心思考✅ 具备✅ 具备执行能力❌ 无✅ Tools33 toolsets持久记忆❌ 无✅ Memory任务规划❌ 无✅ Planning运行时❌ 无✅ Executor自我修正❌ 需外部循环✅ ReAct 循环07/ 常见误区误区纠正Agent 高级 PromptAgent 是系统工程包含多个模块协同工作有工具调用就是 Agent必须有 Planning Memory Execution LoopAgent 必须很复杂最小 Agent LLM Tool Loop一行循环即可Agent 比 LLM 更聪明Agent 不替代 LLM而是增强 LLM 的能力08/ 最小可落地架构MVP 版本LLMTool Registry工具注册表Memory至少是当前对话上下文Planning Prompt任务拆解提示Execution Loop执行循环进阶版本Hermes 级别ReAct Loop推理-行动循环Long-term MemoryHoncho / Mem0Tool Sandbox工具沙箱Delegation子任务委派Skills可复用技能积累Context Compression上下文压缩Cron定时任务Multi-platform Gateway多平台接入CuratorSkill 生命周期管理09/ 设计思想总结**模块化**Agent 不是「一个黑盒」而是多个模块的组合每个模块职责清晰可以独立替换或增强。**状态外置**所有状态必须存在外部文件系统、数据库而不是依赖内存。这样 Agent 可以重启、可以跨会话不会丢失上下文。**可观测性**每步操作都应该有日志、有 Trace。出了问题能快速定位而不是「不知道为什么错了」。**安全优先**危险操作需要用户审批。工具调用可以限制范围。API Key 存在 .env 而不是配置文件中。10/ 进一步学习方向**动手实践**安装 Hermes体验 /help、/tools、/skills 基本功能用 todo 拆解一个真实任务。**深入模块**研究 Memory 系统Honcho / Mem0 语义记忆、心智模型、自定义 Tool参考 tools/ 目录、把工作流程保存为 Skill 积累经验。**扩展阅读**Hermes 官方文档、《Harness 工程》邢云阳、AutoGPT / LangChain / CrewAI 等开源框架对比。11/ 总结Agent 的本质不是「更聪明的 LLM」而是一个可执行的 AI 操作系统。它包含七个模块1思考LLM— 大脑2记忆Memory— 持久记忆内置 可插拔后端3行动Tools— 手脚33 toolset4决策Planning— ReAct todo kanban5执行Executor— Agent Loop 运行时6自检Reflection— ReAct 循环固有特性7经验Skills— 技能积累系统学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】