本文深入浅出地介绍了检索增强生成RAG架构旨在帮助初学者和程序员理解如何利用外部知识库提升大语言模型的回答质量。文章详细阐述了RAG的核心思想、不同架构类型如无微调RAG、检索器微调、仅语言模型微调等及其特点并探讨了黑盒与白盒增强策略。此外还涉及知识库构建、查询与检索增强、效率提升及系统评估等关键环节为读者提供了全面的RAG学习和实践指南。导航传统大语言模型主要依赖参数中的隐式知识进行回答容易受到知识过期、幻觉和领域知识不足等问题影响。RAG 的核心思想是在生成答案之前先从外部知识库中检索相关信息再将这些信息作为上下文提供给大语言模型从而提升回答的准确性、可追溯性和时效性。检索增强生成架构架构类型是否修改大模型参数是否修改检索器参数代表方法特点无微调 RAG否否In-Context RALM简单、易落地检索器微调否是REPLUG适合黑盒大模型仅语言模型微调是否RETRO强化模型利用外部知识的能力检索器与模型协同微调是是Atlas效果潜力高但训练复杂黑盒增强架构黑盒增强架构指的是不修改或无法访问大语言模型内部参数主要通过Prompt、外部检索、检索器优化或输出反馈来提升生成效果。无微调无微调架构是所有RAG架构中形式最简单的。该架构中检索器和语言模型经过分别独立的预训练后参数不再更新直接组合使用。In-Context RALM是该框架下的代表性方法在实际工程中大多数企业级 RAG 系统最初都采用这种形式知识库、Embedding 模型、向量数据库和大语言模型相互独立只通过 Prompt 将检索结果注入上下文。检索器微调在检索器微调架构中大语言模型参数保持不变仅通过语言模型的输出反馈来优化检索器。其核心思想是如果某个文档能让语言模型更容易生成正确答案那么这个文档就应该被检索器赋予更高权重。REPLUG 是这类方法的代表之一。它利用语言模型对不同检索文档的困惑度变化作为监督信号训练检索器更倾向于召回那些能显著提升生成质量的文档。白盒增强架构大语言模型和检索器是独立预训练的二者可能存在匹配欠佳的情况。白盒增强架构通过微调大语言模型来配合检索器以提升RAG 的效果。根据是否对检索器进行微调分为两类仅语言模型微调检索器和语言模型协同微调仅微调语言模型仅微调语言模型指的是检索器作为一个预先训练好的组件其参数保持不变大语言模型根据检索器提供的上下文信息对自身参数进行微调。RETRO是微调语言模型的代表性方法之一。检索器和语言模型协同微调在该架构中检索器和语言模型同时进行微调以实现更好的协同效果。该方法的代表性方法是Atlas。知识库构建在RAG 框架中知识库构建主要涉及数据采集及预处理与知识库增强两个步骤。数据采集及预处理数据采集: 来自不同渠道的数据被整合、转换为统一的文档对象。这些文档对象不仅包含原始的文本信息还携带有关文档的元信息Metadata预处理: 预处理可以提升数据质量和可用性。数据预处理主要包括数据清洗和文本分块两个过程。数据清洗旨在清除文本中的干扰元素。文本分块是将长文本分割成较小文本块的过程文本分块的效果直接影响后续检索结果的质量知识库增强知识库增强是通过改进和丰富知识库的内容和结构以提升其质量和实用性查询生成 利用大语言模型生成与文档内容紧密相关的伪查询。这些伪查询从查询的角度来表达文档的语义可以作为相关文档的“键”供检索时与用户查询进行匹配。标题生成 利用大语言模型为没有标题的文档生成合适的标题查询与检索增强查询增强查询增强是指在检索阶段对用户输入的查询进行改进和优化以提升检索结果的相关性和准确性。查询增强的主要方法包括查询语义增强: 通过同义改写和多视角分解等方法来扩展、丰富用户查询的语义以提高检索的准确性和全面性查询内容增强: 通过生成与原始查询相关的背景信息和上下文从而丰富查询内容提高检索的准确性和全面性。查询内容增强方法通过引入大语言模型生成的辅助文档为原始查询提供更多维度的信息支持检索器检索器是RAG系统中的核心组件负责从知识库中检索出与用户查询相关的文档判别式检索器判别式检索器通过判别模型对查询和文档是否相关进行打分。判别式检索器通常分为两大类稀疏检索器 稀疏检索器Sparse Retriever是指使用稀疏表示方法来匹配文本的模型通过统计文档中特定词项出现的统计特征来对文档进行编码然后基于此编码计算查询与知识库中的文档的相似度来进行检索稠密检索器 稠密检索器一般利用预训练语言模型对文本生成低维、密集的向量表示通过计算向量间的相似度进行检索生成式检索器生成式检索器通过生成模型对输入查询直接生成相关文档的标识符。检索效率增强向量数据库可以实现高效的向量检索与查询。向量数据库的核心是设计高效的相似度索引算法。 常用的索引技术主要分为三大类基于空间划分: 将搜索空间划分为多个区域来实现索引基于乘积量化: 将高维向量空间划分为多个子空间并在每个子空间中进行聚类得到码本和码字以此作为构建索引的基础基于图: 构建一个邻近图将向量检索转化为图的遍历问题检索结果重排通过对检索结果重排可以提升检索结果的相关性和准确性。常见的重排方法包括基于交叉编码的方法 基于交叉编码的重排方法利用交叉编码器Cross-Encoders来评估文档与查询之间的语义相关性基于上下文学习的方法 基于上下文学习的方法是指通过设计精巧的Prompt使用大语言模型来执行重排任务RAG 系统评估RAG 系统的评估通常需要同时关注检索质量和生成质量。检索质量评估Recall相关文档是否被召回。Precision召回结果中有多少是真正相关的。MRR正确文档是否排在靠前位置。nDCG综合考虑相关性和排序位置。生成质量评估正确性答案是否符合事实。忠实性答案是否基于检索到的证据生成。完整性是否覆盖用户问题的关键方面。可引用性是否能给出明确来源。幻觉率是否编造不存在的信息。优化增强过程RAG 并不意味着每次生成都必须检索。是否检索、在哪里融合检索结果、是否需要多轮检索都会影响系统成本、延迟和答案质量。何时增强判断是否需要增强的核心在于判断大语言模型是否具有内部知识。判断模型是否具有内部知识的方法可以分为两类:外部观测法通过 Prompt 询问模型是否具备相关知识或通过置信度、困惑度等统计信号进行判断。内部观测法通过检测模型内部神经元或隐藏状态判断模型是否存储相关知识。这类方法通常需要访问模型内部参数更适合白盒场景。内部/外部观测法都存在一定局限性最好是定义一个决策链: 规则兜底 LLM 判断 检索质量评估 证据充分性验证.何处增强可以在输入端、中间层、输出端使用检索的结果:输入端: 直接将检索到的外部知识文本与用户查询拼接到Prompt中然后输入给大语言模型,主流方式。中间层: 先将检索到的外部知识转换为向量表示然后将这些向量插入通过交叉注意力融合到模型的隐藏状态中。黑盒架构中无法使用。输出端: 利用检索到的外部知识对大语言模型生成的文本进行校准是一种后处理的方法多次增强分解式增强 将复杂问题分解为多个子问题子问题间进行迭代检索增强最终得到正确答案渐进式增强 将问题不断细化然后分别对细化的问题进行检索增强力求给出全面的答案以覆盖用户需要的答案大模型的知识又多又杂到底怎么学做这行久了被问最多的问题就一个大模型的知识又多又杂我到底先学啥翻了一堆资料看啥都像重点结果啥都没学进去。今天把我自己一路摸出来的顺序捋一遍零基础、应届生、转行的都适用。跟着走至少方向不乱、不瞎忙学完拿得出手。第一阶段10天初阶应用这一阶段就一个目标把大模型真正玩明白不是只会聊天那种而是能调教它、能用代码把大模型和业务接起来。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用这阶段正式进实战目标很实在做出两个能拿出手的东西——一个私有知识库一个 agent 对话机器人。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…走完这 30 天Python 或 JavaScript 背景的基本能独立做一套 RAG 应用简历上也敢写大模型应用开发了。第三阶段约20天动手微调学到这你已经开始 “造” 模型了 —— 通过微调搞出垂直领域的专用小模型。为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你从 “只会用” 变成 “能造” 的 AI 小子。那么你还想往下探索吗想要入局AI大模型赛道、抢占行业红利的朋友微信扫描下方CSDN官方认证二维码即可100%免费领取全套学习资料第四阶段20天商业闭环部署落地技术学完落地才算数。这阶段带你搞明白大模型怎么真正跑起来、用起来。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…想要入坑大模型的朋友给大家准备了一份2026 年最新 AI 大模型全套学习资料1、大模型系统化学习路线2、大模型学习视频教程3、大模型学习书籍电子文档4、AI大模型最新行业报告5、大模型项目实战配套源码6、2026大模型大厂面试真题7、为什么要学习大模型我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年人才缺口已超百万凸显培养不足。随着AI技术飞速发展预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。8、适合谁学传统后端 / Java / 前端开发想转型 AI 应用大学生、应届生想拿更好的 offer产品经理、运营想武装职业竞争力技术负责人想给团队落地提效学习是反人性的但回报是真金白银。技术会更新赛道会切换但只要你先动手机会就永远站在你这边。9、这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。想要入局AI大模型赛道、抢占行业红利的朋友微信扫描下方CSDN官方认证二维码即可100%免费领取全套学习资料好了就写到这。路线是死的人是活的卡住了随时来问我。觉得有用就点个收藏别让它进收藏夹吃灰——动起来比啥都强。 
长河君 · 2026/11/3 2:47:50 · 阅读 1.2k 小白程序员轻松入门大模型：RAG架构详解与实战技巧
本文深入浅出地介绍了检索增强生成RAG架构旨在帮助初学者和程序员理解如何利用外部知识库提升大语言模型的回答质量。文章详细阐述了RAG的核心思想、不同架构类型如无微调RAG、检索器微调、仅语言模型微调等及其特点并探讨了黑盒与白盒增强策略。此外还涉及知识库构建、查询与检索增强、效率提升及系统评估等关键环节为读者提供了全面的RAG学习和实践指南。导航传统大语言模型主要依赖参数中的隐式知识进行回答容易受到知识过期、幻觉和领域知识不足等问题影响。RAG 的核心思想是在生成答案之前先从外部知识库中检索相关信息再将这些信息作为上下文提供给大语言模型从而提升回答的准确性、可追溯性和时效性。检索增强生成架构架构类型是否修改大模型参数是否修改检索器参数代表方法特点无微调 RAG否否In-Context RALM简单、易落地检索器微调否是REPLUG适合黑盒大模型仅语言模型微调是否RETRO强化模型利用外部知识的能力检索器与模型协同微调是是Atlas效果潜力高但训练复杂黑盒增强架构黑盒增强架构指的是不修改或无法访问大语言模型内部参数主要通过Prompt、外部检索、检索器优化或输出反馈来提升生成效果。无微调无微调架构是所有RAG架构中形式最简单的。该架构中检索器和语言模型经过分别独立的预训练后参数不再更新直接组合使用。In-Context RALM是该框架下的代表性方法在实际工程中大多数企业级 RAG 系统最初都采用这种形式知识库、Embedding 模型、向量数据库和大语言模型相互独立只通过 Prompt 将检索结果注入上下文。检索器微调在检索器微调架构中大语言模型参数保持不变仅通过语言模型的输出反馈来优化检索器。其核心思想是如果某个文档能让语言模型更容易生成正确答案那么这个文档就应该被检索器赋予更高权重。REPLUG 是这类方法的代表之一。它利用语言模型对不同检索文档的困惑度变化作为监督信号训练检索器更倾向于召回那些能显著提升生成质量的文档。白盒增强架构大语言模型和检索器是独立预训练的二者可能存在匹配欠佳的情况。白盒增强架构通过微调大语言模型来配合检索器以提升RAG 的效果。根据是否对检索器进行微调分为两类仅语言模型微调检索器和语言模型协同微调仅微调语言模型仅微调语言模型指的是检索器作为一个预先训练好的组件其参数保持不变大语言模型根据检索器提供的上下文信息对自身参数进行微调。RETRO是微调语言模型的代表性方法之一。检索器和语言模型协同微调在该架构中检索器和语言模型同时进行微调以实现更好的协同效果。该方法的代表性方法是Atlas。知识库构建在RAG 框架中知识库构建主要涉及数据采集及预处理与知识库增强两个步骤。数据采集及预处理数据采集: 来自不同渠道的数据被整合、转换为统一的文档对象。这些文档对象不仅包含原始的文本信息还携带有关文档的元信息Metadata预处理: 预处理可以提升数据质量和可用性。数据预处理主要包括数据清洗和文本分块两个过程。数据清洗旨在清除文本中的干扰元素。文本分块是将长文本分割成较小文本块的过程文本分块的效果直接影响后续检索结果的质量知识库增强知识库增强是通过改进和丰富知识库的内容和结构以提升其质量和实用性查询生成 利用大语言模型生成与文档内容紧密相关的伪查询。这些伪查询从查询的角度来表达文档的语义可以作为相关文档的“键”供检索时与用户查询进行匹配。标题生成 利用大语言模型为没有标题的文档生成合适的标题查询与检索增强查询增强查询增强是指在检索阶段对用户输入的查询进行改进和优化以提升检索结果的相关性和准确性。查询增强的主要方法包括查询语义增强: 通过同义改写和多视角分解等方法来扩展、丰富用户查询的语义以提高检索的准确性和全面性查询内容增强: 通过生成与原始查询相关的背景信息和上下文从而丰富查询内容提高检索的准确性和全面性。查询内容增强方法通过引入大语言模型生成的辅助文档为原始查询提供更多维度的信息支持检索器检索器是RAG系统中的核心组件负责从知识库中检索出与用户查询相关的文档判别式检索器判别式检索器通过判别模型对查询和文档是否相关进行打分。判别式检索器通常分为两大类稀疏检索器 稀疏检索器Sparse Retriever是指使用稀疏表示方法来匹配文本的模型通过统计文档中特定词项出现的统计特征来对文档进行编码然后基于此编码计算查询与知识库中的文档的相似度来进行检索稠密检索器 稠密检索器一般利用预训练语言模型对文本生成低维、密集的向量表示通过计算向量间的相似度进行检索生成式检索器生成式检索器通过生成模型对输入查询直接生成相关文档的标识符。检索效率增强向量数据库可以实现高效的向量检索与查询。向量数据库的核心是设计高效的相似度索引算法。 常用的索引技术主要分为三大类基于空间划分: 将搜索空间划分为多个区域来实现索引基于乘积量化: 将高维向量空间划分为多个子空间并在每个子空间中进行聚类得到码本和码字以此作为构建索引的基础基于图: 构建一个邻近图将向量检索转化为图的遍历问题检索结果重排通过对检索结果重排可以提升检索结果的相关性和准确性。常见的重排方法包括基于交叉编码的方法 基于交叉编码的重排方法利用交叉编码器Cross-Encoders来评估文档与查询之间的语义相关性基于上下文学习的方法 基于上下文学习的方法是指通过设计精巧的Prompt使用大语言模型来执行重排任务RAG 系统评估RAG 系统的评估通常需要同时关注检索质量和生成质量。检索质量评估Recall相关文档是否被召回。Precision召回结果中有多少是真正相关的。MRR正确文档是否排在靠前位置。nDCG综合考虑相关性和排序位置。生成质量评估正确性答案是否符合事实。忠实性答案是否基于检索到的证据生成。完整性是否覆盖用户问题的关键方面。可引用性是否能给出明确来源。幻觉率是否编造不存在的信息。优化增强过程RAG 并不意味着每次生成都必须检索。是否检索、在哪里融合检索结果、是否需要多轮检索都会影响系统成本、延迟和答案质量。何时增强判断是否需要增强的核心在于判断大语言模型是否具有内部知识。判断模型是否具有内部知识的方法可以分为两类:外部观测法通过 Prompt 询问模型是否具备相关知识或通过置信度、困惑度等统计信号进行判断。内部观测法通过检测模型内部神经元或隐藏状态判断模型是否存储相关知识。这类方法通常需要访问模型内部参数更适合白盒场景。内部/外部观测法都存在一定局限性最好是定义一个决策链: 规则兜底 LLM 判断 检索质量评估 证据充分性验证.何处增强可以在输入端、中间层、输出端使用检索的结果:输入端: 直接将检索到的外部知识文本与用户查询拼接到Prompt中然后输入给大语言模型,主流方式。中间层: 先将检索到的外部知识转换为向量表示然后将这些向量插入通过交叉注意力融合到模型的隐藏状态中。黑盒架构中无法使用。输出端: 利用检索到的外部知识对大语言模型生成的文本进行校准是一种后处理的方法多次增强分解式增强 将复杂问题分解为多个子问题子问题间进行迭代检索增强最终得到正确答案渐进式增强 将问题不断细化然后分别对细化的问题进行检索增强力求给出全面的答案以覆盖用户需要的答案大模型的知识又多又杂到底怎么学做这行久了被问最多的问题就一个大模型的知识又多又杂我到底先学啥翻了一堆资料看啥都像重点结果啥都没学进去。今天把我自己一路摸出来的顺序捋一遍零基础、应届生、转行的都适用。跟着走至少方向不乱、不瞎忙学完拿得出手。第一阶段10天初阶应用这一阶段就一个目标把大模型真正玩明白不是只会聊天那种而是能调教它、能用代码把大模型和业务接起来。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用这阶段正式进实战目标很实在做出两个能拿出手的东西——一个私有知识库一个 agent 对话机器人。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…走完这 30 天Python 或 JavaScript 背景的基本能独立做一套 RAG 应用简历上也敢写大模型应用开发了。第三阶段约20天动手微调学到这你已经开始 “造” 模型了 —— 通过微调搞出垂直领域的专用小模型。为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你从 “只会用” 变成 “能造” 的 AI 小子。那么你还想往下探索吗想要入局AI大模型赛道、抢占行业红利的朋友微信扫描下方CSDN官方认证二维码即可100%免费领取全套学习资料第四阶段20天商业闭环部署落地技术学完落地才算数。这阶段带你搞明白大模型怎么真正跑起来、用起来。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…想要入坑大模型的朋友给大家准备了一份2026 年最新 AI 大模型全套学习资料1、大模型系统化学习路线2、大模型学习视频教程3、大模型学习书籍电子文档4、AI大模型最新行业报告5、大模型项目实战配套源码6、2026大模型大厂面试真题7、为什么要学习大模型我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年人才缺口已超百万凸显培养不足。随着AI技术飞速发展预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。8、适合谁学传统后端 / Java / 前端开发想转型 AI 应用大学生、应届生想拿更好的 offer产品经理、运营想武装职业竞争力技术负责人想给团队落地提效学习是反人性的但回报是真金白银。技术会更新赛道会切换但只要你先动手机会就永远站在你这边。9、这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。想要入局AI大模型赛道、抢占行业红利的朋友微信扫描下方CSDN官方认证二维码即可100%免费领取全套学习资料好了就写到这。路线是死的人是活的卡住了随时来问我。觉得有用就点个收藏别让它进收藏夹吃灰——动起来比啥都强。