本文针对AI应用开发工程师即Agent工程师详细阐述了其所需掌握的核心知识和技能。文章首先区分了模型侧与应用侧的区别随后提出了Agent Model Harness的核心公式并深入解析了Harness的六大模块规划与编排、沙箱执行环境、技能与工具、记忆与上下文工程、系统提示词与护栏、可观测与反馈闭环。每个模块都详细介绍了需要学习的内容和技术组件。一个公式Agent Model Harness、六个模块、一张技术组件地图。这篇文章讲的是应用开发这一侧具体要装哪些知识。引子一个很典型的问题上个月一位工作了三年的 Java 读者给我发消息。他说想转 AI 方向已经学了两个月。我问他学到什么程度他发来一份很长的笔记——Transformer 架构、注意力机制、LoRA 微调原理、LangChain 六大组件、RAG 的三种检索策略标了重点还写了批注。我说那你做个东西给我看看他停了一会儿回我“我跟着教程跑通过几个 demo。但让我自己从零做一个我不知道从哪开始。”我问他这两个月在做什么。他说看视频、记笔记、读论文、收藏教程“我想先把原理搞懂再动手做”。这个困惑我听过很多次。它既不是努力不够也不是学不会——它是没分清学 AI这四个字里到底包含了哪几件事。因为学 AI实际上是两条方向不同的路一条是研究模型本身一条是把模型变成能干活的产品。这两条路需要的知识结构、训练方式、职业出口都不一样。如果不先把这件事分开就容易像这位读者一样两种知识都碰了一点但哪一条都没走到底。这篇文章想讲清楚其中一条——AI 应用开发工程师到底该学什么、按什么顺序学。先分清两条路模型侧 与 应用侧行业里说做 AI粗分是两个方向。模型侧算法工程师做什么预训练、微调、对齐RLHF / DPO、推理优化、模型评测知识底座线性代数、概率统计、最优化、深度学习、分布式训练工作方式读论文、跑实验、调超参、评估指标特点门槛高、迭代周期长、算力成本大。但它是整个 AI 能力的源头——没有模型侧的持续进展下游的应用侧无从谈起应用侧应用开发 / Agent 工程师做什么把模型能力接进真实业务构建能完成多步任务的 Agent 系统知识底座软件工程、系统设计、API 集成、并发与容错、可观测性工作方式写代码、搭系统、做集成、跑评测、控成本特点岗位数量多、迭代快、贴近业务。模型的能力最终要落到产品上靠的就是这一侧这两条路是分工关系不是替代关系。一个类比模型侧像造发动机的人应用侧像造整车的人。发动机决定了这辆车的性能上限但一辆能上路的车还需要传动、底盘、电控、安全系统。选哪条取决于你的底座和兴趣你的情况更适合数理基础扎实喜欢读论文、做实验能接受长周期模型侧工程能力强喜欢做系统、拆需求、快速迭代应用侧想先就业、快速有产出之后再决定深入方向应用侧本文主题说明走应用侧不代表可以完全不懂模型。你需要理解模型的能力边界、上下文限制、概率特性、幻觉的成因——但这是理解层面的要求不是从零推导反向传播层面的要求。这两者的差距很大。应用侧的核心公式Agent Model Harness2026 年初AI 工程圈给一个概念正式定了名Agent Harness智能体运行时 / 脚手架。这个公式的核心只有一行Agent Model HarnessModel大语言模型。提供推理、生成、判断。这一侧由模型厂商构建你通过 API 使用。Harness包裹在模型外面的运行系统。负责调度、执行、记忆、约束、观测。这一侧是应用工程师的主战场。一个很好懂的类比计算机AI Agent主要由谁负责CPU提供算力Model提供推理芯片 / 模型厂商操作系统调度、内存管理、I/O 驱动Harness调度、记忆、工具、安全应用工程师你写的应用程序具体的 Agent应用工程师这里有一个对应用工程师很关键的认知一个 Agent 好不好用往往不取决于换了哪个模型而取决于 Harness 搭得怎么样。同一个模型换一套 Harness 架构任务成功率可以差出好几倍——这一点在工程实践中被反复验证过。这个公式的价值在于它把学 AI从一片模糊的知识海洋变成了六个可以逐个攻克的模块。Harness 六大模块应用工程师的学习地图一个完整的 Harness由六个模块构成。下面逐个讲清楚它解决什么问题、你要学什么、涉及哪些技术组件。1规划与编排Planning Orchestration解决的问题把一个大任务拆成可执行的小步骤并管理它们的状态流转。要学任务拆解把做一份数据报表拆成读数据 → 清洗 → 算指标 → 画图 → 输出编排模式ReAct推理与行动交替、Plan-and-Execute先规划再执行状态管理计划 → 执行 → 检查 → 修正的流转失败后如何从断点恢复技术组件LangGraph、状态机、任务队列。工程要点不是所有任务都需要自主规划。流程确定的就写成固定流程——成本、延迟、稳定性都会更好。什么时候该让模型自主决策、什么时候该写死这是编排环节的核心判断。2沙箱执行环境Sandbox解决的问题让 Agent 真的能读写文件、运行代码同时把风险限制在隔离环境里。要学Docker 基础容器、镜像、隔离Linux 常用命令Agent 的运行环境基本是 Linux资源限制CPU、内存、网络、超时技术组件Docker、代码解释器、文件系统挂载、进程管理。工程要点模型会犯错——可能生成危险命令、可能死循环、可能吃光内存。沙箱是兜底让它在隔离环境里犯错而不是在你的生产机上。这一块看起来不像 AI但它决定了 Agent 能不能稳定跑起来。3技能与工具Skills Tools解决的问题让 Agent 能调用外部能力。要学Function Calling模型输出一段 JSON 表示我想调用这个函数、参数是这些真正执行函数的是你写的代码。理解这一点才能理解整条工具链路的边界在哪。MCP 协议把给 Agent 接工具标准化不用每接一个 API 就重写一遍集成逻辑。工具设计参数校验、错误处理、返回值裁剪。技术组件Function Calling、MCP、OpenAPI Schema、参数校验库。工程要点工具返回的结果要有节制。一个搜索接口返回几千字原文直接塞回上下文会挤占推理空间。返回前先裁剪或摘要是工具设计里的常规动作。4记忆与上下文工程Memory Context解决的问题让 Agent 记住该记的、忘掉该忘的。要学上下文工程模型能看到的窗口有限要决定什么信息进、什么被压缩RAG检索增强生成文档切分、Embedding、向量数据库、混合检索、重排上下文压缩长对话如何摘要既保留关键信息又控制 token技术组件Embedding 模型、向量数据库pgvector / Milvus / Qdrant、检索器、重排模型。工程要点上下文管理本质是做减法。另外RAG 擅长解决知识缺失型的问题而推理层面的错误需要靠检索 校验 兜底的组合来处理。5系统提示词与护栏System Prompts Guardrails解决的问题告诉 Agent 能做什么、不能做什么。要学角色与边界定义明确 Agent 的身份和能力范围代码层约束写在提示词里的不要删除文件是建议真正的约束要在代码里拦截Hooks 机制高风险动作前插入人工确认如发送邮件、删除文件结构化输出用 JSON Schema 约束模型输出格式便于程序解析技术组件Prompt 模板、结构化输出JSON Schema、权限校验、人工确认钩子。工程要点能用代码拦住的就不要只靠提示词。安全规则要落在代码路径上。6可观测与反馈闭环Observability解决的问题记录 Agent 做了什么出错能复盘改动能验证。要学全链路 Trace每一步的输入、输出、工具调用评测Eval建一个 10–20 个任务的小测试集每次改动后跑一遍看成功率、步数、成本成本统计从第一天起统计每个任务的 token 消耗技术组件日志 / Trace、评测集、成本看板。工程要点单次跑通不等于可用。模型的输出有概率性同一类任务换几次输入都能稳定得到可用结果才算真正过关。另外多轮 Agent 的 token 消耗是单次调用的几十倍成本要提前纳入设计。· · ·六个模块到这里。它们不是学完再做的线性关系而是搭建一个系统时需要同时考虑的六个侧面。这些模块背后的技术组件前面反复提到了一些名词。这一节把它们单独拎出来一次讲清楚。Function Calling函数调用这是最容易被误解的一个概念。很多人以为Function Calling 是模型在执行函数。实际流程是你把可用工具的描述名称、用途、参数 Schema随请求一起发给模型模型判断需要调用哪个工具输出一段 JSON工具名 参数你的代码解析这段 JSON真正执行函数你把执行结果回填给模型模型基于结果继续推理或者给出最终答复模型负责决定调什么你的代码负责真正执行和错误处理。把这条链路理解清楚是 Agent 从会聊天到能干活的分界。MCPModel Context ProtocolMCP 解决的是工具接入的标准化问题。在没有 MCP 之前每接一个外部服务数据库、文件系统、第三方 API都要写一套专用的集成代码。MCP 把这件事抽象成协议工具方实现一个 ServerAgent 方作为 Client 连接双方按统一格式交换能力描述和调用请求。直接带来的好处接新工具的成本大幅下降工具可以跨 Agent 复用。RAGRetrieval-Augmented Generation检索增强生成让 Agent 基于你自己的资料回答问题。完整链路离线建立索引文档 → 切分 → 向量化 → 存入向量库在线每次问答提问 → 检索 → 重排 → 拼进上下文 → 模型生成每一环都有可调的工程点切分粒度、Embedding 模型选型、检索条数、是否加重排。Embedding 与向量数据库Embedding把文本映射成一个向量语义相近的文本向量距离也近。这是语义检索的基础。向量数据库负责存向量、做近邻检索。常见选择有 pgvector已有 Postgres 时最省事、Milvus、Qdrant 等。对应用工程师来说重点是会用、会评估检索效果不需要自己训练 Embedding 模型。沙箱与容器Agent 要执行代码或操作文件时放进隔离环境通常是 Docker 容器限制资源、隔离文件系统、控制网络出口。这是 Agent 走向生产环境的前提条件。上下文管理包括窗口内的信息取舍、历史对话摘要、工具返回结果裁剪、多轮任务的状态持久化。这部分没有标准答案更多依赖工程经验。可观测与评测EvalTrace一次任务里每一步的输入输出都要能回看Eval用固定测试集衡量改动效果而不是靠感觉变好了成本token 数、调用次数、单任务成本这三样合起来是把 Agent 当成一个工程系统来维护的标志。学习路径四个阶段前面讲的是要学什么这一节讲按什么顺序学。先说一个前提理论教材和项目实践是两种用途不同的地图。教材 / 理论是知识地图它告诉你这个领域的全貌长什么样、边界在哪。作为参考体系它很有价值。项目实践是导航路线它决定你先走哪一段、下一步往哪拐。两份地图配合使用效果最好用项目带动具体知识点的深入同时保持对整体框架的了解。下面这条路径是以做出一个可用的 Agent为目标倒推出来的顺序。L0先跑通约 1 个月目标手写一个最小的 Agent先不用框架。做什么用原生 Python 调模型 API实现一个最小循环用户提问 → 模型判断是否要调工具 → 调工具 → 结果回填 → 继续判断 → 给出答案做一个能回答今天天气或者读一个文件并总结的小东西。为什么先用原生 API框架会替你处理很多细节。先用原生方式写一遍你会知道框架到底帮你做了什么后面用它的时候也更容易排查问题。要学Python 异步、JSON 处理、HTTP 请求、API 密钥管理、错误重试。产出一段 100 行左右、你能逐行解释的 Agent 代码。L1加能力约 1 个月目标让 Agent 真的有用。做什么加 2–3 个真实工具搜索、读数据库、调用一个你熟悉的业务 API加 RAG让它基于一份真实文档回答问题处理结构化输出与失败重试要学Function Calling、MCP、Embedding、向量数据库、RAG 全链路。产出一个解决真实问题的 Agent。痛点最好来自你自己的日常而不是教程里的示例。L2工程化约 2 个月目标从能跑到稳定地跑。做什么放进 Docker 沙箱加日志、评测集、成本统计加护栏高风险动作前人工确认处理超时、限流、工具报错要学Docker、Linux、日志设计、Eval 方法、成本核算。产出一个能长时间稳定运行、出错可复盘的 Agent。为什么这一级重要L2 是企业招聘时最看重的阶段。面试时它直接区分了做过玩具和做过系统。L3优化与协作约 2 个月目标从单 Agent 走向多 Agent 协作做性能与成本优化。要学多 Agent 编排、子 Agent 隔离、上下文压缩策略调优。产出一个你能讲清楚架构取舍的复杂系统。建议先把单 Agent 做扎实再进入这一层。一个时间参考这条路径按每天投入 1–2 小时估算——这也是大多数在职学习和在校学习的真实节奏。从 L0 走到 L2、具备求职能力大约需要 4 个月继续走完 L3总计约 6 个月。个体差异较大这个区间仅供参考。几个常见疑问“要不要学数学和模型原理”要但深度取决于你的方向。应用工程师需要理解 token、上下文窗口、注意力机制的直觉、温度参数、幻觉的成因、模型擅长什么不擅长什么。理解到知道为什么这个程度即可。算法工程师需要能手推公式、能读论文、能复现实验。理解模型的边界能帮你做出更好的工程决策——比如什么时候该用 RAG而不是把资料全塞进上下文。“要不要用框架”用但建议先用原生 API 跑通一遍。框架的价值是提效和工程规范它的成本是抽象层带来的排查难度。知道底层发生了什么用框架时会从容很多。要本地部署大模型我当时给他的建议是先停下来用原生 Python 写一个 100 行的 Agent让它能查天气。然后你会发现你自然会想知道它怎么记住上一轮说的话“它怎么调用外部接口”“它出错了我怎么知道”——这些问题的答案就是接下来要学的全部内容。知识在被需要的时候学记得最牢。大模型的知识又多又杂到底怎么学做这行久了被问最多的问题就一个大模型的知识又多又杂我到底先学啥翻了一堆资料看啥都像重点结果啥都没学进去。今天把我自己一路摸出来的顺序捋一遍零基础、应届生、转行的都适用。跟着走至少方向不乱、不瞎忙学完拿得出手。第一阶段10天初阶应用这一阶段就一个目标把大模型真正玩明白不是只会聊天那种而是能调教它、能用代码把大模型和业务接起来。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用这阶段正式进实战目标很实在做出两个能拿出手的东西——一个私有知识库一个 agent 对话机器人。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…走完这 30 天Python 或 JavaScript 背景的基本能独立做一套 RAG 应用简历上也敢写大模型应用开发了。第三阶段约20天动手微调学到这你已经开始 “造” 模型了 —— 通过微调搞出垂直领域的专用小模型。为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你从 “只会用” 变成 “能造” 的 AI 小子。那么你还想往下探索吗想要入局AI大模型赛道、抢占行业红利的朋友微信扫描下方CSDN官方认证二维码即可100%免费领取全套学习资料第四阶段20天商业闭环部署落地技术学完落地才算数。这阶段带你搞明白大模型怎么真正跑起来、用起来。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…想要入坑大模型的朋友给大家准备了一份2026 年最新 AI 大模型全套学习资料1、大模型系统化学习路线2、大模型学习视频教程3、大模型学习书籍电子文档4、AI大模型最新行业报告5、大模型项目实战配套源码6、2026大模型大厂面试真题7、为什么要学习大模型我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年人才缺口已超百万凸显培养不足。随着AI技术飞速发展预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。8、适合谁学传统后端 / Java / 前端开发想转型 AI 应用大学生、应届生想拿更好的 offer产品经理、运营想武装职业竞争力技术负责人想给团队落地提效学习是反人性的但回报是真金白银。技术会更新赛道会切换但只要你先动手机会就永远站在你这边。9、这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。想要入局AI大模型赛道、抢占行业红利的朋友微信扫描下方CSDN官方认证二维码即可100%免费领取全套学习资料好了就写到这。路线是死的人是活的卡住了随时来问我。觉得有用就点个收藏别让它进收藏夹吃灰——动起来比啥都强。 
长河君 · 2026/10/23 11:44:30 · 阅读 1.2k 小白程序员必备！大模型应用开发工程师学什么？收藏这份学习路线图
本文针对AI应用开发工程师即Agent工程师详细阐述了其所需掌握的核心知识和技能。文章首先区分了模型侧与应用侧的区别随后提出了Agent Model Harness的核心公式并深入解析了Harness的六大模块规划与编排、沙箱执行环境、技能与工具、记忆与上下文工程、系统提示词与护栏、可观测与反馈闭环。每个模块都详细介绍了需要学习的内容和技术组件。一个公式Agent Model Harness、六个模块、一张技术组件地图。这篇文章讲的是应用开发这一侧具体要装哪些知识。引子一个很典型的问题上个月一位工作了三年的 Java 读者给我发消息。他说想转 AI 方向已经学了两个月。我问他学到什么程度他发来一份很长的笔记——Transformer 架构、注意力机制、LoRA 微调原理、LangChain 六大组件、RAG 的三种检索策略标了重点还写了批注。我说那你做个东西给我看看他停了一会儿回我“我跟着教程跑通过几个 demo。但让我自己从零做一个我不知道从哪开始。”我问他这两个月在做什么。他说看视频、记笔记、读论文、收藏教程“我想先把原理搞懂再动手做”。这个困惑我听过很多次。它既不是努力不够也不是学不会——它是没分清学 AI这四个字里到底包含了哪几件事。因为学 AI实际上是两条方向不同的路一条是研究模型本身一条是把模型变成能干活的产品。这两条路需要的知识结构、训练方式、职业出口都不一样。如果不先把这件事分开就容易像这位读者一样两种知识都碰了一点但哪一条都没走到底。这篇文章想讲清楚其中一条——AI 应用开发工程师到底该学什么、按什么顺序学。先分清两条路模型侧 与 应用侧行业里说做 AI粗分是两个方向。模型侧算法工程师做什么预训练、微调、对齐RLHF / DPO、推理优化、模型评测知识底座线性代数、概率统计、最优化、深度学习、分布式训练工作方式读论文、跑实验、调超参、评估指标特点门槛高、迭代周期长、算力成本大。但它是整个 AI 能力的源头——没有模型侧的持续进展下游的应用侧无从谈起应用侧应用开发 / Agent 工程师做什么把模型能力接进真实业务构建能完成多步任务的 Agent 系统知识底座软件工程、系统设计、API 集成、并发与容错、可观测性工作方式写代码、搭系统、做集成、跑评测、控成本特点岗位数量多、迭代快、贴近业务。模型的能力最终要落到产品上靠的就是这一侧这两条路是分工关系不是替代关系。一个类比模型侧像造发动机的人应用侧像造整车的人。发动机决定了这辆车的性能上限但一辆能上路的车还需要传动、底盘、电控、安全系统。选哪条取决于你的底座和兴趣你的情况更适合数理基础扎实喜欢读论文、做实验能接受长周期模型侧工程能力强喜欢做系统、拆需求、快速迭代应用侧想先就业、快速有产出之后再决定深入方向应用侧本文主题说明走应用侧不代表可以完全不懂模型。你需要理解模型的能力边界、上下文限制、概率特性、幻觉的成因——但这是理解层面的要求不是从零推导反向传播层面的要求。这两者的差距很大。应用侧的核心公式Agent Model Harness2026 年初AI 工程圈给一个概念正式定了名Agent Harness智能体运行时 / 脚手架。这个公式的核心只有一行Agent Model HarnessModel大语言模型。提供推理、生成、判断。这一侧由模型厂商构建你通过 API 使用。Harness包裹在模型外面的运行系统。负责调度、执行、记忆、约束、观测。这一侧是应用工程师的主战场。一个很好懂的类比计算机AI Agent主要由谁负责CPU提供算力Model提供推理芯片 / 模型厂商操作系统调度、内存管理、I/O 驱动Harness调度、记忆、工具、安全应用工程师你写的应用程序具体的 Agent应用工程师这里有一个对应用工程师很关键的认知一个 Agent 好不好用往往不取决于换了哪个模型而取决于 Harness 搭得怎么样。同一个模型换一套 Harness 架构任务成功率可以差出好几倍——这一点在工程实践中被反复验证过。这个公式的价值在于它把学 AI从一片模糊的知识海洋变成了六个可以逐个攻克的模块。Harness 六大模块应用工程师的学习地图一个完整的 Harness由六个模块构成。下面逐个讲清楚它解决什么问题、你要学什么、涉及哪些技术组件。1规划与编排Planning Orchestration解决的问题把一个大任务拆成可执行的小步骤并管理它们的状态流转。要学任务拆解把做一份数据报表拆成读数据 → 清洗 → 算指标 → 画图 → 输出编排模式ReAct推理与行动交替、Plan-and-Execute先规划再执行状态管理计划 → 执行 → 检查 → 修正的流转失败后如何从断点恢复技术组件LangGraph、状态机、任务队列。工程要点不是所有任务都需要自主规划。流程确定的就写成固定流程——成本、延迟、稳定性都会更好。什么时候该让模型自主决策、什么时候该写死这是编排环节的核心判断。2沙箱执行环境Sandbox解决的问题让 Agent 真的能读写文件、运行代码同时把风险限制在隔离环境里。要学Docker 基础容器、镜像、隔离Linux 常用命令Agent 的运行环境基本是 Linux资源限制CPU、内存、网络、超时技术组件Docker、代码解释器、文件系统挂载、进程管理。工程要点模型会犯错——可能生成危险命令、可能死循环、可能吃光内存。沙箱是兜底让它在隔离环境里犯错而不是在你的生产机上。这一块看起来不像 AI但它决定了 Agent 能不能稳定跑起来。3技能与工具Skills Tools解决的问题让 Agent 能调用外部能力。要学Function Calling模型输出一段 JSON 表示我想调用这个函数、参数是这些真正执行函数的是你写的代码。理解这一点才能理解整条工具链路的边界在哪。MCP 协议把给 Agent 接工具标准化不用每接一个 API 就重写一遍集成逻辑。工具设计参数校验、错误处理、返回值裁剪。技术组件Function Calling、MCP、OpenAPI Schema、参数校验库。工程要点工具返回的结果要有节制。一个搜索接口返回几千字原文直接塞回上下文会挤占推理空间。返回前先裁剪或摘要是工具设计里的常规动作。4记忆与上下文工程Memory Context解决的问题让 Agent 记住该记的、忘掉该忘的。要学上下文工程模型能看到的窗口有限要决定什么信息进、什么被压缩RAG检索增强生成文档切分、Embedding、向量数据库、混合检索、重排上下文压缩长对话如何摘要既保留关键信息又控制 token技术组件Embedding 模型、向量数据库pgvector / Milvus / Qdrant、检索器、重排模型。工程要点上下文管理本质是做减法。另外RAG 擅长解决知识缺失型的问题而推理层面的错误需要靠检索 校验 兜底的组合来处理。5系统提示词与护栏System Prompts Guardrails解决的问题告诉 Agent 能做什么、不能做什么。要学角色与边界定义明确 Agent 的身份和能力范围代码层约束写在提示词里的不要删除文件是建议真正的约束要在代码里拦截Hooks 机制高风险动作前插入人工确认如发送邮件、删除文件结构化输出用 JSON Schema 约束模型输出格式便于程序解析技术组件Prompt 模板、结构化输出JSON Schema、权限校验、人工确认钩子。工程要点能用代码拦住的就不要只靠提示词。安全规则要落在代码路径上。6可观测与反馈闭环Observability解决的问题记录 Agent 做了什么出错能复盘改动能验证。要学全链路 Trace每一步的输入、输出、工具调用评测Eval建一个 10–20 个任务的小测试集每次改动后跑一遍看成功率、步数、成本成本统计从第一天起统计每个任务的 token 消耗技术组件日志 / Trace、评测集、成本看板。工程要点单次跑通不等于可用。模型的输出有概率性同一类任务换几次输入都能稳定得到可用结果才算真正过关。另外多轮 Agent 的 token 消耗是单次调用的几十倍成本要提前纳入设计。· · ·六个模块到这里。它们不是学完再做的线性关系而是搭建一个系统时需要同时考虑的六个侧面。这些模块背后的技术组件前面反复提到了一些名词。这一节把它们单独拎出来一次讲清楚。Function Calling函数调用这是最容易被误解的一个概念。很多人以为Function Calling 是模型在执行函数。实际流程是你把可用工具的描述名称、用途、参数 Schema随请求一起发给模型模型判断需要调用哪个工具输出一段 JSON工具名 参数你的代码解析这段 JSON真正执行函数你把执行结果回填给模型模型基于结果继续推理或者给出最终答复模型负责决定调什么你的代码负责真正执行和错误处理。把这条链路理解清楚是 Agent 从会聊天到能干活的分界。MCPModel Context ProtocolMCP 解决的是工具接入的标准化问题。在没有 MCP 之前每接一个外部服务数据库、文件系统、第三方 API都要写一套专用的集成代码。MCP 把这件事抽象成协议工具方实现一个 ServerAgent 方作为 Client 连接双方按统一格式交换能力描述和调用请求。直接带来的好处接新工具的成本大幅下降工具可以跨 Agent 复用。RAGRetrieval-Augmented Generation检索增强生成让 Agent 基于你自己的资料回答问题。完整链路离线建立索引文档 → 切分 → 向量化 → 存入向量库在线每次问答提问 → 检索 → 重排 → 拼进上下文 → 模型生成每一环都有可调的工程点切分粒度、Embedding 模型选型、检索条数、是否加重排。Embedding 与向量数据库Embedding把文本映射成一个向量语义相近的文本向量距离也近。这是语义检索的基础。向量数据库负责存向量、做近邻检索。常见选择有 pgvector已有 Postgres 时最省事、Milvus、Qdrant 等。对应用工程师来说重点是会用、会评估检索效果不需要自己训练 Embedding 模型。沙箱与容器Agent 要执行代码或操作文件时放进隔离环境通常是 Docker 容器限制资源、隔离文件系统、控制网络出口。这是 Agent 走向生产环境的前提条件。上下文管理包括窗口内的信息取舍、历史对话摘要、工具返回结果裁剪、多轮任务的状态持久化。这部分没有标准答案更多依赖工程经验。可观测与评测EvalTrace一次任务里每一步的输入输出都要能回看Eval用固定测试集衡量改动效果而不是靠感觉变好了成本token 数、调用次数、单任务成本这三样合起来是把 Agent 当成一个工程系统来维护的标志。学习路径四个阶段前面讲的是要学什么这一节讲按什么顺序学。先说一个前提理论教材和项目实践是两种用途不同的地图。教材 / 理论是知识地图它告诉你这个领域的全貌长什么样、边界在哪。作为参考体系它很有价值。项目实践是导航路线它决定你先走哪一段、下一步往哪拐。两份地图配合使用效果最好用项目带动具体知识点的深入同时保持对整体框架的了解。下面这条路径是以做出一个可用的 Agent为目标倒推出来的顺序。L0先跑通约 1 个月目标手写一个最小的 Agent先不用框架。做什么用原生 Python 调模型 API实现一个最小循环用户提问 → 模型判断是否要调工具 → 调工具 → 结果回填 → 继续判断 → 给出答案做一个能回答今天天气或者读一个文件并总结的小东西。为什么先用原生 API框架会替你处理很多细节。先用原生方式写一遍你会知道框架到底帮你做了什么后面用它的时候也更容易排查问题。要学Python 异步、JSON 处理、HTTP 请求、API 密钥管理、错误重试。产出一段 100 行左右、你能逐行解释的 Agent 代码。L1加能力约 1 个月目标让 Agent 真的有用。做什么加 2–3 个真实工具搜索、读数据库、调用一个你熟悉的业务 API加 RAG让它基于一份真实文档回答问题处理结构化输出与失败重试要学Function Calling、MCP、Embedding、向量数据库、RAG 全链路。产出一个解决真实问题的 Agent。痛点最好来自你自己的日常而不是教程里的示例。L2工程化约 2 个月目标从能跑到稳定地跑。做什么放进 Docker 沙箱加日志、评测集、成本统计加护栏高风险动作前人工确认处理超时、限流、工具报错要学Docker、Linux、日志设计、Eval 方法、成本核算。产出一个能长时间稳定运行、出错可复盘的 Agent。为什么这一级重要L2 是企业招聘时最看重的阶段。面试时它直接区分了做过玩具和做过系统。L3优化与协作约 2 个月目标从单 Agent 走向多 Agent 协作做性能与成本优化。要学多 Agent 编排、子 Agent 隔离、上下文压缩策略调优。产出一个你能讲清楚架构取舍的复杂系统。建议先把单 Agent 做扎实再进入这一层。一个时间参考这条路径按每天投入 1–2 小时估算——这也是大多数在职学习和在校学习的真实节奏。从 L0 走到 L2、具备求职能力大约需要 4 个月继续走完 L3总计约 6 个月。个体差异较大这个区间仅供参考。几个常见疑问“要不要学数学和模型原理”要但深度取决于你的方向。应用工程师需要理解 token、上下文窗口、注意力机制的直觉、温度参数、幻觉的成因、模型擅长什么不擅长什么。理解到知道为什么这个程度即可。算法工程师需要能手推公式、能读论文、能复现实验。理解模型的边界能帮你做出更好的工程决策——比如什么时候该用 RAG而不是把资料全塞进上下文。“要不要用框架”用但建议先用原生 API 跑通一遍。框架的价值是提效和工程规范它的成本是抽象层带来的排查难度。知道底层发生了什么用框架时会从容很多。要本地部署大模型我当时给他的建议是先停下来用原生 Python 写一个 100 行的 Agent让它能查天气。然后你会发现你自然会想知道它怎么记住上一轮说的话“它怎么调用外部接口”“它出错了我怎么知道”——这些问题的答案就是接下来要学的全部内容。知识在被需要的时候学记得最牢。大模型的知识又多又杂到底怎么学做这行久了被问最多的问题就一个大模型的知识又多又杂我到底先学啥翻了一堆资料看啥都像重点结果啥都没学进去。今天把我自己一路摸出来的顺序捋一遍零基础、应届生、转行的都适用。跟着走至少方向不乱、不瞎忙学完拿得出手。第一阶段10天初阶应用这一阶段就一个目标把大模型真正玩明白不是只会聊天那种而是能调教它、能用代码把大模型和业务接起来。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用这阶段正式进实战目标很实在做出两个能拿出手的东西——一个私有知识库一个 agent 对话机器人。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…走完这 30 天Python 或 JavaScript 背景的基本能独立做一套 RAG 应用简历上也敢写大模型应用开发了。第三阶段约20天动手微调学到这你已经开始 “造” 模型了 —— 通过微调搞出垂直领域的专用小模型。为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你从 “只会用” 变成 “能造” 的 AI 小子。那么你还想往下探索吗想要入局AI大模型赛道、抢占行业红利的朋友微信扫描下方CSDN官方认证二维码即可100%免费领取全套学习资料第四阶段20天商业闭环部署落地技术学完落地才算数。这阶段带你搞明白大模型怎么真正跑起来、用起来。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…想要入坑大模型的朋友给大家准备了一份2026 年最新 AI 大模型全套学习资料1、大模型系统化学习路线2、大模型学习视频教程3、大模型学习书籍电子文档4、AI大模型最新行业报告5、大模型项目实战配套源码6、2026大模型大厂面试真题7、为什么要学习大模型我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年人才缺口已超百万凸显培养不足。随着AI技术飞速发展预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。8、适合谁学传统后端 / Java / 前端开发想转型 AI 应用大学生、应届生想拿更好的 offer产品经理、运营想武装职业竞争力技术负责人想给团队落地提效学习是反人性的但回报是真金白银。技术会更新赛道会切换但只要你先动手机会就永远站在你这边。9、这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。想要入局AI大模型赛道、抢占行业红利的朋友微信扫描下方CSDN官方认证二维码即可100%免费领取全套学习资料好了就写到这。路线是死的人是活的卡住了随时来问我。觉得有用就点个收藏别让它进收藏夹吃灰——动起来比啥都强。