做过几年AI相关项目的落地见过太多人拿着一摞教程啃到一半就放弃也见过不少同事从只会调接口到能独立设计整套AI系统的完整蜕变。这个叫“ai-engineering-from-scratch”的项目本质上就是一条从零开始、不走弯路的AI工程自学路线今天我把它完整拆开来讲把我自己实操过的路径、踩过的坑、验证过有效的方法全部写出来。这套内容不只是给你列书单、甩链接而是带你真正搞清楚AI工程是个什么东西、要学哪些东西、怎么一步步把它搭起来最终能自己动手做出一个可用的AI应用。先说这个内容适合谁。如果你是刚毕业的学生、想转行的开发、或者已经在做业务但想往AI方向靠的从业者都很合适。不需要你已经有深厚的数学功底也不需要你手里有昂贵的GPU一台普通电脑加上耐心完全够用。我会在下面把整条路线拆成清晰的阶段同时给出每个阶段最关键的实操动作和判断标准方便你自己对照着走。1. AI工程到底是什么先从认知上把事情捋清楚1.1 从“调包侠”到“工程人”的思维转变AI工程这个名词这两年被反复提起但很多人理解得挺模糊。我在实际工作中见过两类人一类是把AI当成魔法觉得训练一个模型就像按一下按钮输进去数据就自动出结果另一类是把AI当成纯粹的算法竞赛整天追着SOTA模型跑却连一个模型怎么部署上线都搞不清楚。真实的AI工程恰好在这两者中间——它既需要你理解模型背后的原理又需要你具备把模型变成产品的工程能力。我用一句直白的话总结我的认知AI工程不是“写代码调模型”而是“用系统化的方法让AI在真实场景里稳定工作”。这句话拆开来看包含三层意思。第一层系统化方法是核心意味着你要有数据管理、实验管理、评估体系、监控反馈这些完整流程而不是东一榔头西一棒子。第二层真实场景是检验标准你的模型在测试集上再漂亮放到线上被真实用户一用就露馅这种落差我经历过太多次。第三层稳定工作才是目标准确率只是起点延迟、成本、可维护性、可解释性每一样都是工程上要命的指标。从“ai-engineering-from-scratch”这个项目名也能看出来它的定位就是从头构建这一整套能力而不是零散地学几个算法。所以第一步不是急着看代码而是先把脑子里那套“AI等于模型”的认知掰过来建立起“AI等于系统”的框架。1.2 为什么自学AI工程总失败问题出在哪说句不客气的话市面上大部分自学AI的人失败的根本原因不是不努力而是路线太松散。今天看到一个视频讲Transformer明天看到一个帖子讲PyTorch后天又去刷一道LeetCode看起来每天都很充实实际上知识全是碎片。等真要做一个完整项目的时候发现数据不会清洗、模型不会训练、训练完不知道怎么看效果、效果好一点又不知道怎么做成服务每一环都卡住。我见过最典型的一个案例是我的一个朋友他花了三个月刷完了某平台上的深度学习课程作业也全部完成觉得自己已经入门了。结果我让他做一个简单的垃圾邮件分类器从数据收集到上线接口他忙了两个礼拜还没跑通原因是他从来没有完整地走过一遍流程。课程作业都是现成的数据集、现成的预处理代码他只需要在中间填几行模型代码就行可真实项目里根本没有人为你准备这些。所以“ai-engineering-from-scratch”这个学习路线的设计逻辑就很清楚了它强调的是一条纵向打通的学习方式每一个阶段都把自己放在一个完整项目的上下文里学一个知识点就立刻用起来。不是“学完所有的再开始做”而是“一边做一边补”让每个新学的概念都能落到一个真实可运行的东西上。我一直觉得AI工程能力不是“学”出来的是“做”出来的只是在做的过程中需要有意识地补理论而已。2. 从零自学的完整路径我把每一站都给你拆开2.1 第一站编程基础与Python生态这是绕不开的地基很多文章会告诉你学AI不需要编程基础我的观点恰恰相反。你可以不是科班出身但基本的编程能力必须过关否则后面每一步都是空中楼阁。所谓的“过关”不是指你能背出多少语法而是指你拿到一个需求能独立写出能跑的脚本、能调试报错、能看懂第三方库的文档。Python是AI工程领域的绝对主力语言这个没什么好争议的。从我自己的实践来看你需要掌握的核心不是花哨的语法特性而是几个最常用的包NumPy处理数值计算、Pandas做数据处理、Matplotlib画图看数据分布。这三个包占了日常工作中至少六成的时间。我教新人时经常说一句话你可以在三个礼拜内把Python基础语法过完但NumPy的广播机制、Pandas的分组聚合、Matplotlib的subplot布局这些操作必须熟练到闭着眼睛能写出来的程度因为后面的数据清洗和特征工程全靠它们。这一站我建议你给自己定一个可检验的成果目标用Pandas完成一份真实数据集的清洗和统计分析并输出几张能讲出故事的图表。数据集可以选Kaggle上的Titanic或者UCI的Adult数据集这些数据不干净、有缺失值、有异常值正好练手。我当时给自己的训练题是把一份三万行的电商订单数据按用户维度做聚合算每个用户的购买频次、客单价、最近购买时间再按这些维度画分布图。这个任务做完你对Pandas的熟练度基本就到位了。顺带说一个我见过很多新手犯的错误就是喜欢自己造轮子。数据清洗明明有现成的方法非要自己写循环去遍历结果代码又慢又容易出错。做AI工程不是参加算法竞赛高效复用成熟的工具才是工程思维的第一步。2.2 第二站机器学习核心概念把“模型在做什么”彻底搞清楚走到这一站你终于要开始碰模型了。但我的建议是先从经典机器学习入手别一上来就扎进深度学习。原因很简单很多深度学习里的核心概念——损失函数、梯度下降、过拟合、正则化——都是在经典模型里更容易被直观理解的。决策树、线性回归、逻辑回归这些模型你可以在白板上把数学推导一步步写清楚但神经网络动辄上百万参数你很难直观看到内部在发生什么。这一站需要掌握的核心概念我按重要性排个序损失函数与优化尤其是梯度下降的直觉理解、过拟合与正则化、偏差与方差的权衡、交叉验证、评估指标的选择。关于评估指标我要多说一句很多人只知道准确率但在真实场景里准确率往往是骗人的。比如一个欺诈检测任务99.2%都是正常交易你做一个全都预测成正常的模型准确率也有99.2%但这个模型毫无价值。所以精确率、召回率、F1、ROC-AUC这些指标必须理解透并且要知道什么场景该看哪个指标。这个阶段最容易忽视的其实是“特征工程”。我见过太多人花大量时间调模型的超参数却不愿意花时间仔细看看数据、构造特征。我的经验是在绝大多数表格数据任务里好特征带来的提升远比调参大。举个例子我曾经做一个客户流失预测项目原始特征里有每个用户的登录次数这个特征的预测能力很弱。但我把登录次数按时间窗口做差分构造出“近期登录频率是否下降”这个特征后模型效果直接提升了好几个百分点。这种对业务和数据深挖的习惯越早养成越好。这一站的检验标准是你能从零手动实现一个线性回归和一个逻辑回归不依赖Sklearn并且能清楚解释每个公式在做什么。这个过程可能会有点痛苦但非常值得因为它会逼着你把梯度下降、损失函数这些概念彻底搞明白。2.3 第三站深度学习与神经网络进入现代AI的入场券当你对经典机器学习有了扎实理解就可以正式进入深度学习的世界了。这一站的核心是理解神经网络的基本结构——全连接层、激活函数、反向传播、优化器然后逐步过渡到卷积神经网络和循环神经网络。虽然现在大模型时代很多任务直接上Transformer但CNN和RNN里的很多思想——比如局部连接、参数共享、序列建模——依然是理解现代模型的基础。我特别想提醒的是深度学习初学阶段不要沉浸在理论里出不来。你完全不需要从头推导每一个数学公式但你需要知道每一层的作用、每个超参数的意义、以及模型训练不起来的时候该往哪个方向排查。说白了深度学习调参更像一门“手艺”光看理论知识不长本事必须在大量的实践中积累手感。这一站的实操环节我建议你自己动手训练一个图像分类模型。CIFAR-10数据集是经典的入门选择用PyTorch从搭建一个简单的CNN开始把训练循环、验证循环、模型保存恢复这些完整流程走一遍。不要用现成的模型库一行代码搞定那样你什么都学不到。我第一次训练CIFAR-10的时候验证集准确率卡在60%上下不去调了两天学习率、换了不同的优化器最后发现是数据归一化写错了。这种调试过程虽然折磨人但过后你对整个训练流程的理解会非常深刻。当你把PyTorch的基本流程跑顺了应该建立一个很重要的习惯每次训练都记录实验日志。我用的是一个简单的本地CSV文件每条记录包括模型结构、超参数、数据版本、最终指标。这个习惯在后来的工作中救了我无数次因为它能让我清楚地知道什么改动带来了什么效果而不是靠玄学调参。2.4 第四站大模型时代的新技能栈这是AI工程的主战场近两年AI工程的格局发生了翻天覆地的变化。以前我们做NLP任务需要自己训练模型、微调模型现在预训练大模型成了标配。这带来的一个直接变化是AI工程师的核心工作从“训练模型”转向了“围绕模型做工程”。这一站你需要掌握的新技能栈我梳理成四块。第一块是Prompt Engineering也就是提示词工程。别小看这个看似简单的技能一个精心设计的提示词和随便写一句的提示词效果差距可能非常大。你需要掌握角色设定、思维链、少样本示例这些基本技巧更重要的是学会系统性地调试提示词而不是靠感觉猜。第二块是RAG检索增强生成这是目前落地最广泛的大模型应用模式核心是把外部知识库和LLM结合起来让模型基于你提供的资料回答问题。你不仅要理解嵌入Embedding、向量数据库、相似度检索这些概念还要能把整套流程搭通。第三块是微调Fine-tuning当你发现提示词和RAG都不够用的时候就需要在特定领域数据上对模型做进一步训练。微调的技术栈包括LoRA、QLoRA这些高效微调方法以及对应的数据准备流程。第四块是模型部署与推理优化包括量化、剪枝、推理加速等保证模型在成本和延迟上能满足业务要求。我见过太多自学的人走到这一站就停住了还在用上一代的方法做NLP费劲训练一个效果还不如直接调API的模型。不要犯这个错大模型时代要赶紧把认知切换过来。现在做一个客服问答机器人没人会从零训练一个BERT再去做意图识别主流方案就是大模型加RAG一个周末就能出原型效果还比以前那套好很多。3. 实操全记录从环境搭建到第一个可用的AI项目3.1 开发环境与工具链怎么搭才省心先把硬件焦虑解决掉。很多人一说学深度学习就觉得必须要有顶配GPU这完全是个误区。我职业生涯前两年的深度学习实验都是在一台只有8GB显存的消费级显卡上完成的后来在公司用A100但学习和验证阶段根本用不着那么强的算力。你手里的笔记本如果支持CUDA哪怕只有4GB显存也足够跑通本项目里的所有学习实验。如果你连独立显卡都没有也没关系云GPU按小时租用也很便宜一小时几块钱足够日常练手。软件环境方面我建议按这个组合来搭建。操作系统用Windows或Linux都可以但如果你用的是Windows强烈建议装一个WSL2在Linux子系统里做开发能省掉大量环境兼容性的破事。Python版本建议用3.10或3.11不要用最新的3.12因为部分深度学习库的兼容性还没完全跟上。包管理用Anaconda或者Miniconda创建独立的虚拟环境给每个项目用。深度学习框架我选PyTorch不要犹豫虽然TensorFlow也是好框架但当前学术社区和工业界的主流生态都偏向PyTorch遇到问题搜索资料也更容易。下面是完整的安装顺序我踩过不少坑之后总结出来的安装Miniconda创建虚拟环境conda create -n ai-engineer python3.11 conda activate ai-engineer安装PyTorchCPU版或者CUDA版按你机器的显卡来# CPU版 pip install torch torchvision --index-url https://download.pytorch.org/whl/cpu # CUDA 12.1版有NVIDIA显卡的用这个 pip install torch torchvision --index-url https://download.pytorch.org/whl/cu121安装数据处理和分析库pip install numpy pandas matplotlib scikit-learn jupyter最后补上大模型相关的库pip install transformers datasets sentence-transformers faiss-cpu装完之后先别急着跑项目花十分钟做一个环境验证导入torch、打印版本号、创建一个随机张量做一次简单运算。这一步能确认你的深度学习框架是真的能用的避免后面的项目在环境问题上卡壳。有个细节值得注意很多人喜欢在Jupyter Notebook里做所有事情我不反对但建议你同时学会用VS Code写标准的.py脚本因为真实工程项目里几乎全是用脚本组织的Notebook更适合做探索性分析。3.2 第一个完整项目实战端到端文本分类系统我觉得从零开始最适合上手的完整项目就是文本分类原因有三个数据好找、模型简单、评估直观。下面我带你完整走一遍这个项目这也是“ai-engineering-from-scratch”路线里最核心的实践环节。项目目标做一个新闻标题分类器把输入的一句话分类到科技、体育、财经、娱乐这几个类别之一。第一步是数据准备。我建议你直接用datasets库加载Hugging Face上的公开数据集不需要自己爬数据。下面的代码可以加载一个中文新闻数据集from datasets import load_dataset dataset load_dataset(json, data_filesnews_data.json, splittrain)你可以从公开渠道收集大概一万条带标签的新闻标题。这里有个数据质量的关键点要提醒你类别一定要均衡。我一开始偷懒直接从网上抓了一堆现成的新闻数据结果财经类占了六成科技类只有一成。在这个不均衡的数据上训练的模型对财经类样本的预测特别准但科技类的效果一塌糊涂。后来我做了简单的下采样让每个类别保持在两千条左右情况才恢复正常。第二步是文本预处理和特征构建。文本分类的基本流程是清洗文本、分字或分词、构建词表、把文本转成向量。如果你是第一次做建议先用经典的TF-IDF方法训练一个逻辑回归模型把它当作你的基线。不要一上来就上深度学习模型先跑通整个流程再说。下面是TF-IDF加逻辑回归的核心代码from sklearn.feature_extraction.text import TfidfVectorizer from sklearn.linear_model import LogisticRegression from sklearn.model_selection import train_test_split from sklearn.metrics import classification_report X_train, X_test, y_train, y_test train_test_split( texts, labels, test_size0.2, random_state42, stratifylabels ) vectorizer TfidfVectorizer(max_features5000, ngram_range(1, 2)) X_train_vec vectorizer.fit_transform(X_train) X_test_vec vectorizer.transform(X_test) model LogisticRegression(max_iter1000) model.fit(X_train_vec, y_train) y_pred model.predict(X_test_vec) print(classification_report(y_test, y_pred))这个基线模型能跑到85%左右的准确率。拿到这个结果先别急着高兴有几个地方值得认真看。ngram_range(1,2)表示同时使用单个词和相邻两个词的组合作为特征这个设置对短文本分类提升明显。stratifylabels确保训练测试集划分时保持了各类别的比例一致这个细节新手经常漏掉。第三步是在基线基础上做迭代优化。你可以从两个方向入手一是优化特征比如调整TF-IDF的参数、加入词性特征二是换更强的模型比如用预训练的BERT做文本向量化再接一个分类头。当你把BERT接上之后你会发现效果会明显提升我尝试的结果是从85%涨到了92%左右。但也要做好心理准备深度模型的训练时间会从几分钟变成半小时而且对显存有要求。第四步是模型部署把训练好的模型变成一个可调用的HTTP接口。这里我建议用FastAPI比Flask更现代、性能更好而且自带接口文档。用Python里的joblib保存模型和向量器然后写一个简单的接口import joblib from fastapi import FastAPI from pydantic import BaseModel app FastAPI() model joblib.load(model.pkl) vectorizer joblib.load(vectorizer.pkl) class NewsItem(BaseModel): title: str app.post(/predict) def predict(item: NewsItem): vec vectorizer.transform([item.title]) proba model.predict_proba(vec)[0] label model.classes_[proba.argmax()] confidence float(proba.max()) return {label: label, confidence: confidence} # 启动方式: uvicorn main:app --host 0.0.0.0 --port 8000这个接口代码虽然看起来简单但已经包含了部署的核心骨架。从我的经验看完整走完这个文本分类项目你就已经掌握了AI工程的主干流程——数据、模型、评估、部署。之后所有更复杂的项目本质上都是在这个主干上增加复杂度。3.3 进阶项目实战基于RAG的知识库问答系统当你把第一个项目完整走通后就可以进入当前应用最广的方向基于大语言模型的RAG问答系统。这个项目非常贴近真实业务场景我把它当作进阶训练的核心案例。这个项目的目标是给定一批企业内部文档比如产品手册、FAQ、技术文档构建一个问答机器人让用户用自然语言提问机器人基于文档内容给出有依据的回答。RAG的核心思路是“先检索后生成”先根据用户的问题从文档库中找到相关的资料片段再把这些片段作为上下文喂给大模型让模型基于这些资料生成回答。为什么需要RAG而不是直接把所有文档都塞进提示词里原因很简单上下文窗口是有限的而且让模型从几十万字的长文本里找答案效果会非常差成本也高。RAG通过检索这一步把范围从“全部文档”缩小到“最相关的几个片段”既控制了成本又提升了回答质量。整个系统分三步实现。第一步是文档处理与向量化把PDF或者Markdown文档切分成适当大小的段落然后用嵌入模型把每个段落转成向量存入向量数据库。段落切分是个有讲究的活切得太短上下文信息不完整切得太长检索出来的内容冗余且浪费token。我调试下来中文场景下每段200到300字比较合适切的时候还要尽量按语义边界切避免把一句话从中间拦腰截断。from sentence_transformers import SentenceTransformer import faiss import numpy as np model SentenceTransformer(BAAI/bge-large-zh-v1.5) chunks [...] # 切好的文档段落列表 embeddings model.encode(chunks, normalize_embeddingsTrue) dimension embeddings.shape[1] index faiss.IndexFlatIP(dimension) index.add(embeddings) # 保存索引供后续使用 faiss.write_index(index, docs.index)这里我用的是Faiss做向量索引它是一个高效的相似度搜索库。用IndexFlatIP内积索引配合归一化后的向量计算的就是余弦相似度这是衡量两个文本相关性的常见做法。BGE系列嵌入模型在中文语义匹配上的表现不错是我实测下来性价比较高的选择。第二步是检索逻辑。用户输入一个问题后同样用嵌入模型把问题转成向量然后在Faiss索引里做相似度搜索取回最相关的Top-K个文档片段。这个K值的设定需要调试K太小可能漏掉关键信息K太大会把不相关的内容带进来干扰模型。我调试下来的经验是普通问答场景K取3到5比较合适如果是复杂的多跳问题可以适当加大到8到10但回答的稳定性会下降。第三步是生成回答。把问题和检索到的文档片段组装成一个结构化的提示词交给大模型生成回答。这里的关键是提示词设计我提供一个经过反复验证的模板思路你是一个企业知识库助手。请基于以下资料回答用户问题。 如果资料中没有相关信息请明确回答“根据现有资料无法回答”。 请引用对应的资料编号便于用户核对。 资料 [1] ... [2] ... [3] ... 用户问题...这个提示词包含了几个设计细节角色设定让模型知道自己的定位“如果资料中没有相关信息”这个指令能有效减少模型瞎编的情况“请引用对应的资料编号”让回答有据可查在实际业务场景中这个可追溯性非常关键。当你把这个RAG系统跑通之后可以继续优化的方向很多。比如把结果重排用交叉encoder模型对检索结果做精细排序、加入混合检索同时用关键词和向量、把系统从单轮问答升级成多轮对话等。这些都属于RAG工程深水区的玩法先把基础流程跑通最重要。4. 学习路上的坑与排查实录这些都是真金白银换来的经验4.1 环境问题一半的时间都耗在这上面了做AI工程最让人抓狂的其实往往不是算法而是环境。我见过新手花一整天装PyTorch装完之后发现CUDA版本不匹配、包冲突、导入报错最后心态直接崩了。我这里把最常见的三个坑给你说清楚。第一个是CUDA版本不匹配。你装的是PyTorch的CUDA版本和你的显卡驱动支持的CUDA版本对不上就会出现“CUDA driver version is insufficient”之类的报错。解决办法很直接先查你的显卡驱动支持的CUDA版本去NVIDIA官网查对应关系然后安装匹配的PyTorch版本。如果只是学习用途装CPU版完全够用别自找麻烦。第二个是包依赖冲突。Python的包管理有时候确实让人头大特别是当你同时在用很多深度学习库的时候。A库依赖numpy 1.xB库可能已经要求numpy 2.x直接装上会互相打架。我的建议是严格遵守“一个项目一个虚拟环境”的原则不要偷懒把所有的包都装在base环境里。我现在的习惯是每个项目一开始就conda create -n 项目名 python3.11把环境隔离干净后面能省掉一大堆麻烦。第三个是内存爆掉。这个坑经常出现在处理大文件或者训练大模型的时候。我的经验教训是永远不要一次性把整个数据集加载进内存学会用流式加载、分批处理的方式。处理大CSV文件时用pandas.read_csv的chunksize参数分批读入数据很大时用datasets库的streamingTrue模式不要一次全载进来。4.2 数据问题脏数据是模型效果的最大杀手我越来越觉得AI工程里最难的不是模型而是数据。模型可以换更强更大的但数据一旦有系统性偏差再强的模型也救不回来。数据这块我遇到过三个典型问题帮你提前避坑。第一个是标签噪声。有一次我做一个文本分类任务训练集的准确率死活上不去反复调参也没用。后来仔细抽样检查了一批数据发现有将近15%的样本标签是错的——明明内容是体育新闻标签却标成了科技。这种噪声直接破坏了模型的学习信号。后来我养成一个习惯每次拿到新数据先抽样人工检查至少抽一百条出来看标签质量确认没问题再开始训练。第二个是数据泄漏。这个问题非常隐蔽我栽过一次之后印象极深。当时我做一个时间序列预测项目训练集和测试集的数据来自同一段时间但我在做特征工程时不小心用了未来时刻的信息导致测试指标高得离谱模型上线后立刻被打回原形。数据泄漏的典型场景包括在划分训练集和测试集之前就做了归一化用了全量数据的统计量、特征里包含目标变量的变形、随机划分时同一用户的数据同时出现在两边。每次做数据预处理都要问自己一句这一步在预测时刻真的能用上这些信息吗第三个是类别不均衡。前面讲文本分类项目时提过这个问题这里再强调一下处理思路。面对不均衡数据不要急着用SMOTE之类的过采样方法先试试调整评估指标和决策阈值。很多时候把决策阈值往少数类方向偏移一点效果就改善很多。如果需要过采样务必只在训练集上做千万别在测试集上做否则验证结果就失真了。4.3 训练问题模型不收敛的时候别急着调超参数模型训练不起来是新手最焦虑的时刻但我见过太多人在错误的方向上瞎折腾。我的排查顺序是固定的推荐给你参考。首先检查数据预处理。80%的情况下模型训练异常根源都在数据。检查特征有没有做正确的归一化、有没有NaN值没处理、标签有没有从0开始连续编号。我在CIFAR-10上犯的那个归一化错误就是这么排查出来的。其次检查训练循环的代码逻辑。手动实现训练步骤的时候很容易出现梯度没清零、loss取错维度、前向传播和反向传播顺序弄反这类低级错误。我建议新手把训练循环写成最简单的几行不要一开始就搞什么梯度累积、混合精度训练先保证基础流程是对的。等模型能正常收敛了再逐步加上高级技巧。最后才考虑调超参数。学习率是最先要调的我的一般规律是如果loss完全不动试试增大学习率如果loss剧烈震荡试试减小学习率。找不到头绪的时候用PyTorch的学习率调度器做一次学习率扫描从1e-4到0.1的范围内跑几个小实验基本能找到一个合理的区间。我始终认为排查问题本身才是最能锻炼AI工程能力的过程。每排查掉一个问题你对整个系统的理解就深入一层。很多人抱怨训练模型像玄学其实大部分“玄学”问题背后都有明确的技术原因只是没找到而已。4.4 学习节奏问题比进度更重要的是项目完整度最后说一个非技术但很要命的问题学习节奏。我见过太多人陷入“教程循环”出不来今天学完一个教程明天看到一个新的更好的教程又开始学总觉得自己没准备好不敢开始做项目。这种状态会无限期地拖延你真正上手的时间。我给自己定过一个原则分享给你参考每学一个阶段就逼着自己做一个能完整运行、能展示给别人看的小项目哪怕它非常简单。这里的“完整”有三个要求有真实数据的处理过程、有明确的评估指标、有一个可以交互的界面哪怕只是命令行。做完之后发在GitHub上或者写一篇博客记录过程。顶着这点压力去做你会发现自己学到了比单纯看教程多得多的东西。还有一个心态上的坎是要学会接受“不懂”。AI工程的领域太大了你不可能什么都懂。我在做RAG项目的时候对分布式训练完全不了解但这不妨碍我把RAG系统的工程问题解决好。把精力集中在当前项目需要的那条知识线上等真正碰到了需要分布式训练的场景再学也不迟。知识是可以按需补齐的但项目经验必须靠完整做完才能积累。5. 一些真正有用的实操心得我踩过坑之后总结的5.1 建立自己的实验记录习惯这是效率翻倍的秘密我强烈建议你从第一天就建立一个简单的实验记录文档。每跑一个实验就记录数据是什么、模型结构是什么、超参数是什么、最终效果怎么样、跟上一个实验比改了什么。我自己的做法是在每个项目文件夹里放一个experiments.md格式非常简单## 2025-01-12 实验记录 - 数据版本: news_data_v2 - 模型: logistic regression, C1.0 - 特征: tfidf, max_features5000, ngram(1,2) - 结果: acc0.852, f1_macro0.831 - 备注: 相比v1加入bigram后f1提升3个百分点这个习惯在最开始看起来有点麻烦但它会在你实验量变大之后产生复利效应。没有实验记录的人调了三天的参数最后效果提升了但完全不知道是哪个改动起的作用有记录的人每个改动都有据可查可以清晰地沿着记录做迭代。这是普通玩家和专业工程师最明显的区别之一。5.2 学会读官方文档别总当伸手党新手阶段有个坏习惯是遇到问题就直接搜博客但博客质量参差不齐很多还是过时内容。我的建议是建立一套信息获取的优先级官方文档第一、源代码其次是第三。PyTorch、Hugging Face Transformers、FastAPI这些框架的官方文档都写得相当好有完整的示例代码和API说明。搜索工具的使用也有讲究。英文技术社区的质量整体上比中文内容高这是我比较中肯的判断很多中文博客就是在翻译或者转述英文社区的解决方案。我建议你在搜索技术报错信息时优先搜索英文关键词通常能更快定位到Stack Overflow或者GitHub Issues上的权威回答。长期下来你查资料的速度和准确率都会远超那些只会用搜索引擎默认词的人。5.3 每周留一个“自由实验时间”最后一个建议是我个人坚持了很久的习惯每周抽半天时间做一件不在既定学习路线里的尝试。可以是拿一个新的数据集练手、用一个新的库做个小功能、或者复现一篇让你感兴趣的论文里的一个简化版本。这段时间里你不需要有任何产出压力纯粹是为了探索和保持对技术的新鲜感。我的一些重要技能就是这么在“玩”的过程中学会的。有一次我花了一个下午研究怎么把一个训练好的模型导出成ONNX格式那个周五晚上本来只是想随便试试结果后来在公司的项目里真的用上了ONNX加速推理。这种偶然的收获如果没有自由实验时间根本不会发生。“ai-engineering-from-scratch”这套路线说到底没有什么魔法它的核心就四个字纵向打通。从Python到机器学习到深度学习再到大模型应用每一步都紧扣实操每一步都面向完整项目。按这个路线走下来的人收获的不只是知识点而是一套能真正解决实际问题的完整工程能力。这套能力在行业的价值我觉得怎么强调都不为过。 
长河君 · 2026/11/3 22:20:56 · 阅读 1.2k AI工程从零自学路线：从Python基础到RAG项目实战
做过几年AI相关项目的落地见过太多人拿着一摞教程啃到一半就放弃也见过不少同事从只会调接口到能独立设计整套AI系统的完整蜕变。这个叫“ai-engineering-from-scratch”的项目本质上就是一条从零开始、不走弯路的AI工程自学路线今天我把它完整拆开来讲把我自己实操过的路径、踩过的坑、验证过有效的方法全部写出来。这套内容不只是给你列书单、甩链接而是带你真正搞清楚AI工程是个什么东西、要学哪些东西、怎么一步步把它搭起来最终能自己动手做出一个可用的AI应用。先说这个内容适合谁。如果你是刚毕业的学生、想转行的开发、或者已经在做业务但想往AI方向靠的从业者都很合适。不需要你已经有深厚的数学功底也不需要你手里有昂贵的GPU一台普通电脑加上耐心完全够用。我会在下面把整条路线拆成清晰的阶段同时给出每个阶段最关键的实操动作和判断标准方便你自己对照着走。1. AI工程到底是什么先从认知上把事情捋清楚1.1 从“调包侠”到“工程人”的思维转变AI工程这个名词这两年被反复提起但很多人理解得挺模糊。我在实际工作中见过两类人一类是把AI当成魔法觉得训练一个模型就像按一下按钮输进去数据就自动出结果另一类是把AI当成纯粹的算法竞赛整天追着SOTA模型跑却连一个模型怎么部署上线都搞不清楚。真实的AI工程恰好在这两者中间——它既需要你理解模型背后的原理又需要你具备把模型变成产品的工程能力。我用一句直白的话总结我的认知AI工程不是“写代码调模型”而是“用系统化的方法让AI在真实场景里稳定工作”。这句话拆开来看包含三层意思。第一层系统化方法是核心意味着你要有数据管理、实验管理、评估体系、监控反馈这些完整流程而不是东一榔头西一棒子。第二层真实场景是检验标准你的模型在测试集上再漂亮放到线上被真实用户一用就露馅这种落差我经历过太多次。第三层稳定工作才是目标准确率只是起点延迟、成本、可维护性、可解释性每一样都是工程上要命的指标。从“ai-engineering-from-scratch”这个项目名也能看出来它的定位就是从头构建这一整套能力而不是零散地学几个算法。所以第一步不是急着看代码而是先把脑子里那套“AI等于模型”的认知掰过来建立起“AI等于系统”的框架。1.2 为什么自学AI工程总失败问题出在哪说句不客气的话市面上大部分自学AI的人失败的根本原因不是不努力而是路线太松散。今天看到一个视频讲Transformer明天看到一个帖子讲PyTorch后天又去刷一道LeetCode看起来每天都很充实实际上知识全是碎片。等真要做一个完整项目的时候发现数据不会清洗、模型不会训练、训练完不知道怎么看效果、效果好一点又不知道怎么做成服务每一环都卡住。我见过最典型的一个案例是我的一个朋友他花了三个月刷完了某平台上的深度学习课程作业也全部完成觉得自己已经入门了。结果我让他做一个简单的垃圾邮件分类器从数据收集到上线接口他忙了两个礼拜还没跑通原因是他从来没有完整地走过一遍流程。课程作业都是现成的数据集、现成的预处理代码他只需要在中间填几行模型代码就行可真实项目里根本没有人为你准备这些。所以“ai-engineering-from-scratch”这个学习路线的设计逻辑就很清楚了它强调的是一条纵向打通的学习方式每一个阶段都把自己放在一个完整项目的上下文里学一个知识点就立刻用起来。不是“学完所有的再开始做”而是“一边做一边补”让每个新学的概念都能落到一个真实可运行的东西上。我一直觉得AI工程能力不是“学”出来的是“做”出来的只是在做的过程中需要有意识地补理论而已。2. 从零自学的完整路径我把每一站都给你拆开2.1 第一站编程基础与Python生态这是绕不开的地基很多文章会告诉你学AI不需要编程基础我的观点恰恰相反。你可以不是科班出身但基本的编程能力必须过关否则后面每一步都是空中楼阁。所谓的“过关”不是指你能背出多少语法而是指你拿到一个需求能独立写出能跑的脚本、能调试报错、能看懂第三方库的文档。Python是AI工程领域的绝对主力语言这个没什么好争议的。从我自己的实践来看你需要掌握的核心不是花哨的语法特性而是几个最常用的包NumPy处理数值计算、Pandas做数据处理、Matplotlib画图看数据分布。这三个包占了日常工作中至少六成的时间。我教新人时经常说一句话你可以在三个礼拜内把Python基础语法过完但NumPy的广播机制、Pandas的分组聚合、Matplotlib的subplot布局这些操作必须熟练到闭着眼睛能写出来的程度因为后面的数据清洗和特征工程全靠它们。这一站我建议你给自己定一个可检验的成果目标用Pandas完成一份真实数据集的清洗和统计分析并输出几张能讲出故事的图表。数据集可以选Kaggle上的Titanic或者UCI的Adult数据集这些数据不干净、有缺失值、有异常值正好练手。我当时给自己的训练题是把一份三万行的电商订单数据按用户维度做聚合算每个用户的购买频次、客单价、最近购买时间再按这些维度画分布图。这个任务做完你对Pandas的熟练度基本就到位了。顺带说一个我见过很多新手犯的错误就是喜欢自己造轮子。数据清洗明明有现成的方法非要自己写循环去遍历结果代码又慢又容易出错。做AI工程不是参加算法竞赛高效复用成熟的工具才是工程思维的第一步。2.2 第二站机器学习核心概念把“模型在做什么”彻底搞清楚走到这一站你终于要开始碰模型了。但我的建议是先从经典机器学习入手别一上来就扎进深度学习。原因很简单很多深度学习里的核心概念——损失函数、梯度下降、过拟合、正则化——都是在经典模型里更容易被直观理解的。决策树、线性回归、逻辑回归这些模型你可以在白板上把数学推导一步步写清楚但神经网络动辄上百万参数你很难直观看到内部在发生什么。这一站需要掌握的核心概念我按重要性排个序损失函数与优化尤其是梯度下降的直觉理解、过拟合与正则化、偏差与方差的权衡、交叉验证、评估指标的选择。关于评估指标我要多说一句很多人只知道准确率但在真实场景里准确率往往是骗人的。比如一个欺诈检测任务99.2%都是正常交易你做一个全都预测成正常的模型准确率也有99.2%但这个模型毫无价值。所以精确率、召回率、F1、ROC-AUC这些指标必须理解透并且要知道什么场景该看哪个指标。这个阶段最容易忽视的其实是“特征工程”。我见过太多人花大量时间调模型的超参数却不愿意花时间仔细看看数据、构造特征。我的经验是在绝大多数表格数据任务里好特征带来的提升远比调参大。举个例子我曾经做一个客户流失预测项目原始特征里有每个用户的登录次数这个特征的预测能力很弱。但我把登录次数按时间窗口做差分构造出“近期登录频率是否下降”这个特征后模型效果直接提升了好几个百分点。这种对业务和数据深挖的习惯越早养成越好。这一站的检验标准是你能从零手动实现一个线性回归和一个逻辑回归不依赖Sklearn并且能清楚解释每个公式在做什么。这个过程可能会有点痛苦但非常值得因为它会逼着你把梯度下降、损失函数这些概念彻底搞明白。2.3 第三站深度学习与神经网络进入现代AI的入场券当你对经典机器学习有了扎实理解就可以正式进入深度学习的世界了。这一站的核心是理解神经网络的基本结构——全连接层、激活函数、反向传播、优化器然后逐步过渡到卷积神经网络和循环神经网络。虽然现在大模型时代很多任务直接上Transformer但CNN和RNN里的很多思想——比如局部连接、参数共享、序列建模——依然是理解现代模型的基础。我特别想提醒的是深度学习初学阶段不要沉浸在理论里出不来。你完全不需要从头推导每一个数学公式但你需要知道每一层的作用、每个超参数的意义、以及模型训练不起来的时候该往哪个方向排查。说白了深度学习调参更像一门“手艺”光看理论知识不长本事必须在大量的实践中积累手感。这一站的实操环节我建议你自己动手训练一个图像分类模型。CIFAR-10数据集是经典的入门选择用PyTorch从搭建一个简单的CNN开始把训练循环、验证循环、模型保存恢复这些完整流程走一遍。不要用现成的模型库一行代码搞定那样你什么都学不到。我第一次训练CIFAR-10的时候验证集准确率卡在60%上下不去调了两天学习率、换了不同的优化器最后发现是数据归一化写错了。这种调试过程虽然折磨人但过后你对整个训练流程的理解会非常深刻。当你把PyTorch的基本流程跑顺了应该建立一个很重要的习惯每次训练都记录实验日志。我用的是一个简单的本地CSV文件每条记录包括模型结构、超参数、数据版本、最终指标。这个习惯在后来的工作中救了我无数次因为它能让我清楚地知道什么改动带来了什么效果而不是靠玄学调参。2.4 第四站大模型时代的新技能栈这是AI工程的主战场近两年AI工程的格局发生了翻天覆地的变化。以前我们做NLP任务需要自己训练模型、微调模型现在预训练大模型成了标配。这带来的一个直接变化是AI工程师的核心工作从“训练模型”转向了“围绕模型做工程”。这一站你需要掌握的新技能栈我梳理成四块。第一块是Prompt Engineering也就是提示词工程。别小看这个看似简单的技能一个精心设计的提示词和随便写一句的提示词效果差距可能非常大。你需要掌握角色设定、思维链、少样本示例这些基本技巧更重要的是学会系统性地调试提示词而不是靠感觉猜。第二块是RAG检索增强生成这是目前落地最广泛的大模型应用模式核心是把外部知识库和LLM结合起来让模型基于你提供的资料回答问题。你不仅要理解嵌入Embedding、向量数据库、相似度检索这些概念还要能把整套流程搭通。第三块是微调Fine-tuning当你发现提示词和RAG都不够用的时候就需要在特定领域数据上对模型做进一步训练。微调的技术栈包括LoRA、QLoRA这些高效微调方法以及对应的数据准备流程。第四块是模型部署与推理优化包括量化、剪枝、推理加速等保证模型在成本和延迟上能满足业务要求。我见过太多自学的人走到这一站就停住了还在用上一代的方法做NLP费劲训练一个效果还不如直接调API的模型。不要犯这个错大模型时代要赶紧把认知切换过来。现在做一个客服问答机器人没人会从零训练一个BERT再去做意图识别主流方案就是大模型加RAG一个周末就能出原型效果还比以前那套好很多。3. 实操全记录从环境搭建到第一个可用的AI项目3.1 开发环境与工具链怎么搭才省心先把硬件焦虑解决掉。很多人一说学深度学习就觉得必须要有顶配GPU这完全是个误区。我职业生涯前两年的深度学习实验都是在一台只有8GB显存的消费级显卡上完成的后来在公司用A100但学习和验证阶段根本用不着那么强的算力。你手里的笔记本如果支持CUDA哪怕只有4GB显存也足够跑通本项目里的所有学习实验。如果你连独立显卡都没有也没关系云GPU按小时租用也很便宜一小时几块钱足够日常练手。软件环境方面我建议按这个组合来搭建。操作系统用Windows或Linux都可以但如果你用的是Windows强烈建议装一个WSL2在Linux子系统里做开发能省掉大量环境兼容性的破事。Python版本建议用3.10或3.11不要用最新的3.12因为部分深度学习库的兼容性还没完全跟上。包管理用Anaconda或者Miniconda创建独立的虚拟环境给每个项目用。深度学习框架我选PyTorch不要犹豫虽然TensorFlow也是好框架但当前学术社区和工业界的主流生态都偏向PyTorch遇到问题搜索资料也更容易。下面是完整的安装顺序我踩过不少坑之后总结出来的安装Miniconda创建虚拟环境conda create -n ai-engineer python3.11 conda activate ai-engineer安装PyTorchCPU版或者CUDA版按你机器的显卡来# CPU版 pip install torch torchvision --index-url https://download.pytorch.org/whl/cpu # CUDA 12.1版有NVIDIA显卡的用这个 pip install torch torchvision --index-url https://download.pytorch.org/whl/cu121安装数据处理和分析库pip install numpy pandas matplotlib scikit-learn jupyter最后补上大模型相关的库pip install transformers datasets sentence-transformers faiss-cpu装完之后先别急着跑项目花十分钟做一个环境验证导入torch、打印版本号、创建一个随机张量做一次简单运算。这一步能确认你的深度学习框架是真的能用的避免后面的项目在环境问题上卡壳。有个细节值得注意很多人喜欢在Jupyter Notebook里做所有事情我不反对但建议你同时学会用VS Code写标准的.py脚本因为真实工程项目里几乎全是用脚本组织的Notebook更适合做探索性分析。3.2 第一个完整项目实战端到端文本分类系统我觉得从零开始最适合上手的完整项目就是文本分类原因有三个数据好找、模型简单、评估直观。下面我带你完整走一遍这个项目这也是“ai-engineering-from-scratch”路线里最核心的实践环节。项目目标做一个新闻标题分类器把输入的一句话分类到科技、体育、财经、娱乐这几个类别之一。第一步是数据准备。我建议你直接用datasets库加载Hugging Face上的公开数据集不需要自己爬数据。下面的代码可以加载一个中文新闻数据集from datasets import load_dataset dataset load_dataset(json, data_filesnews_data.json, splittrain)你可以从公开渠道收集大概一万条带标签的新闻标题。这里有个数据质量的关键点要提醒你类别一定要均衡。我一开始偷懒直接从网上抓了一堆现成的新闻数据结果财经类占了六成科技类只有一成。在这个不均衡的数据上训练的模型对财经类样本的预测特别准但科技类的效果一塌糊涂。后来我做了简单的下采样让每个类别保持在两千条左右情况才恢复正常。第二步是文本预处理和特征构建。文本分类的基本流程是清洗文本、分字或分词、构建词表、把文本转成向量。如果你是第一次做建议先用经典的TF-IDF方法训练一个逻辑回归模型把它当作你的基线。不要一上来就上深度学习模型先跑通整个流程再说。下面是TF-IDF加逻辑回归的核心代码from sklearn.feature_extraction.text import TfidfVectorizer from sklearn.linear_model import LogisticRegression from sklearn.model_selection import train_test_split from sklearn.metrics import classification_report X_train, X_test, y_train, y_test train_test_split( texts, labels, test_size0.2, random_state42, stratifylabels ) vectorizer TfidfVectorizer(max_features5000, ngram_range(1, 2)) X_train_vec vectorizer.fit_transform(X_train) X_test_vec vectorizer.transform(X_test) model LogisticRegression(max_iter1000) model.fit(X_train_vec, y_train) y_pred model.predict(X_test_vec) print(classification_report(y_test, y_pred))这个基线模型能跑到85%左右的准确率。拿到这个结果先别急着高兴有几个地方值得认真看。ngram_range(1,2)表示同时使用单个词和相邻两个词的组合作为特征这个设置对短文本分类提升明显。stratifylabels确保训练测试集划分时保持了各类别的比例一致这个细节新手经常漏掉。第三步是在基线基础上做迭代优化。你可以从两个方向入手一是优化特征比如调整TF-IDF的参数、加入词性特征二是换更强的模型比如用预训练的BERT做文本向量化再接一个分类头。当你把BERT接上之后你会发现效果会明显提升我尝试的结果是从85%涨到了92%左右。但也要做好心理准备深度模型的训练时间会从几分钟变成半小时而且对显存有要求。第四步是模型部署把训练好的模型变成一个可调用的HTTP接口。这里我建议用FastAPI比Flask更现代、性能更好而且自带接口文档。用Python里的joblib保存模型和向量器然后写一个简单的接口import joblib from fastapi import FastAPI from pydantic import BaseModel app FastAPI() model joblib.load(model.pkl) vectorizer joblib.load(vectorizer.pkl) class NewsItem(BaseModel): title: str app.post(/predict) def predict(item: NewsItem): vec vectorizer.transform([item.title]) proba model.predict_proba(vec)[0] label model.classes_[proba.argmax()] confidence float(proba.max()) return {label: label, confidence: confidence} # 启动方式: uvicorn main:app --host 0.0.0.0 --port 8000这个接口代码虽然看起来简单但已经包含了部署的核心骨架。从我的经验看完整走完这个文本分类项目你就已经掌握了AI工程的主干流程——数据、模型、评估、部署。之后所有更复杂的项目本质上都是在这个主干上增加复杂度。3.3 进阶项目实战基于RAG的知识库问答系统当你把第一个项目完整走通后就可以进入当前应用最广的方向基于大语言模型的RAG问答系统。这个项目非常贴近真实业务场景我把它当作进阶训练的核心案例。这个项目的目标是给定一批企业内部文档比如产品手册、FAQ、技术文档构建一个问答机器人让用户用自然语言提问机器人基于文档内容给出有依据的回答。RAG的核心思路是“先检索后生成”先根据用户的问题从文档库中找到相关的资料片段再把这些片段作为上下文喂给大模型让模型基于这些资料生成回答。为什么需要RAG而不是直接把所有文档都塞进提示词里原因很简单上下文窗口是有限的而且让模型从几十万字的长文本里找答案效果会非常差成本也高。RAG通过检索这一步把范围从“全部文档”缩小到“最相关的几个片段”既控制了成本又提升了回答质量。整个系统分三步实现。第一步是文档处理与向量化把PDF或者Markdown文档切分成适当大小的段落然后用嵌入模型把每个段落转成向量存入向量数据库。段落切分是个有讲究的活切得太短上下文信息不完整切得太长检索出来的内容冗余且浪费token。我调试下来中文场景下每段200到300字比较合适切的时候还要尽量按语义边界切避免把一句话从中间拦腰截断。from sentence_transformers import SentenceTransformer import faiss import numpy as np model SentenceTransformer(BAAI/bge-large-zh-v1.5) chunks [...] # 切好的文档段落列表 embeddings model.encode(chunks, normalize_embeddingsTrue) dimension embeddings.shape[1] index faiss.IndexFlatIP(dimension) index.add(embeddings) # 保存索引供后续使用 faiss.write_index(index, docs.index)这里我用的是Faiss做向量索引它是一个高效的相似度搜索库。用IndexFlatIP内积索引配合归一化后的向量计算的就是余弦相似度这是衡量两个文本相关性的常见做法。BGE系列嵌入模型在中文语义匹配上的表现不错是我实测下来性价比较高的选择。第二步是检索逻辑。用户输入一个问题后同样用嵌入模型把问题转成向量然后在Faiss索引里做相似度搜索取回最相关的Top-K个文档片段。这个K值的设定需要调试K太小可能漏掉关键信息K太大会把不相关的内容带进来干扰模型。我调试下来的经验是普通问答场景K取3到5比较合适如果是复杂的多跳问题可以适当加大到8到10但回答的稳定性会下降。第三步是生成回答。把问题和检索到的文档片段组装成一个结构化的提示词交给大模型生成回答。这里的关键是提示词设计我提供一个经过反复验证的模板思路你是一个企业知识库助手。请基于以下资料回答用户问题。 如果资料中没有相关信息请明确回答“根据现有资料无法回答”。 请引用对应的资料编号便于用户核对。 资料 [1] ... [2] ... [3] ... 用户问题...这个提示词包含了几个设计细节角色设定让模型知道自己的定位“如果资料中没有相关信息”这个指令能有效减少模型瞎编的情况“请引用对应的资料编号”让回答有据可查在实际业务场景中这个可追溯性非常关键。当你把这个RAG系统跑通之后可以继续优化的方向很多。比如把结果重排用交叉encoder模型对检索结果做精细排序、加入混合检索同时用关键词和向量、把系统从单轮问答升级成多轮对话等。这些都属于RAG工程深水区的玩法先把基础流程跑通最重要。4. 学习路上的坑与排查实录这些都是真金白银换来的经验4.1 环境问题一半的时间都耗在这上面了做AI工程最让人抓狂的其实往往不是算法而是环境。我见过新手花一整天装PyTorch装完之后发现CUDA版本不匹配、包冲突、导入报错最后心态直接崩了。我这里把最常见的三个坑给你说清楚。第一个是CUDA版本不匹配。你装的是PyTorch的CUDA版本和你的显卡驱动支持的CUDA版本对不上就会出现“CUDA driver version is insufficient”之类的报错。解决办法很直接先查你的显卡驱动支持的CUDA版本去NVIDIA官网查对应关系然后安装匹配的PyTorch版本。如果只是学习用途装CPU版完全够用别自找麻烦。第二个是包依赖冲突。Python的包管理有时候确实让人头大特别是当你同时在用很多深度学习库的时候。A库依赖numpy 1.xB库可能已经要求numpy 2.x直接装上会互相打架。我的建议是严格遵守“一个项目一个虚拟环境”的原则不要偷懒把所有的包都装在base环境里。我现在的习惯是每个项目一开始就conda create -n 项目名 python3.11把环境隔离干净后面能省掉一大堆麻烦。第三个是内存爆掉。这个坑经常出现在处理大文件或者训练大模型的时候。我的经验教训是永远不要一次性把整个数据集加载进内存学会用流式加载、分批处理的方式。处理大CSV文件时用pandas.read_csv的chunksize参数分批读入数据很大时用datasets库的streamingTrue模式不要一次全载进来。4.2 数据问题脏数据是模型效果的最大杀手我越来越觉得AI工程里最难的不是模型而是数据。模型可以换更强更大的但数据一旦有系统性偏差再强的模型也救不回来。数据这块我遇到过三个典型问题帮你提前避坑。第一个是标签噪声。有一次我做一个文本分类任务训练集的准确率死活上不去反复调参也没用。后来仔细抽样检查了一批数据发现有将近15%的样本标签是错的——明明内容是体育新闻标签却标成了科技。这种噪声直接破坏了模型的学习信号。后来我养成一个习惯每次拿到新数据先抽样人工检查至少抽一百条出来看标签质量确认没问题再开始训练。第二个是数据泄漏。这个问题非常隐蔽我栽过一次之后印象极深。当时我做一个时间序列预测项目训练集和测试集的数据来自同一段时间但我在做特征工程时不小心用了未来时刻的信息导致测试指标高得离谱模型上线后立刻被打回原形。数据泄漏的典型场景包括在划分训练集和测试集之前就做了归一化用了全量数据的统计量、特征里包含目标变量的变形、随机划分时同一用户的数据同时出现在两边。每次做数据预处理都要问自己一句这一步在预测时刻真的能用上这些信息吗第三个是类别不均衡。前面讲文本分类项目时提过这个问题这里再强调一下处理思路。面对不均衡数据不要急着用SMOTE之类的过采样方法先试试调整评估指标和决策阈值。很多时候把决策阈值往少数类方向偏移一点效果就改善很多。如果需要过采样务必只在训练集上做千万别在测试集上做否则验证结果就失真了。4.3 训练问题模型不收敛的时候别急着调超参数模型训练不起来是新手最焦虑的时刻但我见过太多人在错误的方向上瞎折腾。我的排查顺序是固定的推荐给你参考。首先检查数据预处理。80%的情况下模型训练异常根源都在数据。检查特征有没有做正确的归一化、有没有NaN值没处理、标签有没有从0开始连续编号。我在CIFAR-10上犯的那个归一化错误就是这么排查出来的。其次检查训练循环的代码逻辑。手动实现训练步骤的时候很容易出现梯度没清零、loss取错维度、前向传播和反向传播顺序弄反这类低级错误。我建议新手把训练循环写成最简单的几行不要一开始就搞什么梯度累积、混合精度训练先保证基础流程是对的。等模型能正常收敛了再逐步加上高级技巧。最后才考虑调超参数。学习率是最先要调的我的一般规律是如果loss完全不动试试增大学习率如果loss剧烈震荡试试减小学习率。找不到头绪的时候用PyTorch的学习率调度器做一次学习率扫描从1e-4到0.1的范围内跑几个小实验基本能找到一个合理的区间。我始终认为排查问题本身才是最能锻炼AI工程能力的过程。每排查掉一个问题你对整个系统的理解就深入一层。很多人抱怨训练模型像玄学其实大部分“玄学”问题背后都有明确的技术原因只是没找到而已。4.4 学习节奏问题比进度更重要的是项目完整度最后说一个非技术但很要命的问题学习节奏。我见过太多人陷入“教程循环”出不来今天学完一个教程明天看到一个新的更好的教程又开始学总觉得自己没准备好不敢开始做项目。这种状态会无限期地拖延你真正上手的时间。我给自己定过一个原则分享给你参考每学一个阶段就逼着自己做一个能完整运行、能展示给别人看的小项目哪怕它非常简单。这里的“完整”有三个要求有真实数据的处理过程、有明确的评估指标、有一个可以交互的界面哪怕只是命令行。做完之后发在GitHub上或者写一篇博客记录过程。顶着这点压力去做你会发现自己学到了比单纯看教程多得多的东西。还有一个心态上的坎是要学会接受“不懂”。AI工程的领域太大了你不可能什么都懂。我在做RAG项目的时候对分布式训练完全不了解但这不妨碍我把RAG系统的工程问题解决好。把精力集中在当前项目需要的那条知识线上等真正碰到了需要分布式训练的场景再学也不迟。知识是可以按需补齐的但项目经验必须靠完整做完才能积累。5. 一些真正有用的实操心得我踩过坑之后总结的5.1 建立自己的实验记录习惯这是效率翻倍的秘密我强烈建议你从第一天就建立一个简单的实验记录文档。每跑一个实验就记录数据是什么、模型结构是什么、超参数是什么、最终效果怎么样、跟上一个实验比改了什么。我自己的做法是在每个项目文件夹里放一个experiments.md格式非常简单## 2025-01-12 实验记录 - 数据版本: news_data_v2 - 模型: logistic regression, C1.0 - 特征: tfidf, max_features5000, ngram(1,2) - 结果: acc0.852, f1_macro0.831 - 备注: 相比v1加入bigram后f1提升3个百分点这个习惯在最开始看起来有点麻烦但它会在你实验量变大之后产生复利效应。没有实验记录的人调了三天的参数最后效果提升了但完全不知道是哪个改动起的作用有记录的人每个改动都有据可查可以清晰地沿着记录做迭代。这是普通玩家和专业工程师最明显的区别之一。5.2 学会读官方文档别总当伸手党新手阶段有个坏习惯是遇到问题就直接搜博客但博客质量参差不齐很多还是过时内容。我的建议是建立一套信息获取的优先级官方文档第一、源代码其次是第三。PyTorch、Hugging Face Transformers、FastAPI这些框架的官方文档都写得相当好有完整的示例代码和API说明。搜索工具的使用也有讲究。英文技术社区的质量整体上比中文内容高这是我比较中肯的判断很多中文博客就是在翻译或者转述英文社区的解决方案。我建议你在搜索技术报错信息时优先搜索英文关键词通常能更快定位到Stack Overflow或者GitHub Issues上的权威回答。长期下来你查资料的速度和准确率都会远超那些只会用搜索引擎默认词的人。5.3 每周留一个“自由实验时间”最后一个建议是我个人坚持了很久的习惯每周抽半天时间做一件不在既定学习路线里的尝试。可以是拿一个新的数据集练手、用一个新的库做个小功能、或者复现一篇让你感兴趣的论文里的一个简化版本。这段时间里你不需要有任何产出压力纯粹是为了探索和保持对技术的新鲜感。我的一些重要技能就是这么在“玩”的过程中学会的。有一次我花了一个下午研究怎么把一个训练好的模型导出成ONNX格式那个周五晚上本来只是想随便试试结果后来在公司的项目里真的用上了ONNX加速推理。这种偶然的收获如果没有自由实验时间根本不会发生。“ai-engineering-from-scratch”这套路线说到底没有什么魔法它的核心就四个字纵向打通。从Python到机器学习到深度学习再到大模型应用每一步都紧扣实操每一步都面向完整项目。按这个路线走下来的人收获的不只是知识点而是一套能真正解决实际问题的完整工程能力。这套能力在行业的价值我觉得怎么强调都不为过。