1. 选择TensorFlow 2.0/Keras的真实理由新手的时间都浪费在哪很多想入门深度学习的朋友装好TensorFlow 2.0之后问我的第一个问题往往是下一步干什么不是不想学而是Python基础刚看完Keras的教程翻了好几篇代码复制粘贴过来还是一堆报错最后卡在不知道每一行到底在干嘛这个坎上。这篇文章就是以TensorFlow 2.0/Keras实战为主线把跑通第一个深度学习模型的全过程拆开讲。从为什么选这套技术栈讲起再到环境搭建、数据准备、模型训练、过拟合处理、模型保存最后说说入门之后该往哪个方向走。深度学习框架这么多为什么入门首选TensorFlow 2.0/Keras我刚接触深度学习那会儿TensorFlow还是1.x时代。当时的学习曲线是真的劝退你先要用占位符把输入描述好再一层层定义计算图最后还得开一个Session去run。一个简单的线性回归代码量比我手推算还费劲。很多人就是死在这个阶段——不是不理解神经网络而是被框架的抽象方式绕晕了。1.1 从静态计算图到动态执行这一刀切在了关键位置TensorFlow 2.0最大的变化是默认开启了动态图模式Eager Execution。学术点说叫命令式编程通俗讲就是写代码的方式回归到了你熟悉的Python逻辑。定义一个层、传入数据、得到输出整个过程逐行执行跟普通Python没有区别。这个变化的决定性意义用一句话总结就是调试变得有温度了。以前在计算图模式下你写错了某个维度报错信息经常是把整张图编译完之后砸给你一段完全看不懂的堆栈现在动态执行哪一行出的问题错误就停在那一行你甚至可以在中间打印张量的形状和数值来确认模型理解得对不对。对于新手来说这个可调试性比什么花哨功能都重要。还有一个容易被忽略的点Keras在TensorFlow 2.0里变成了官方高级API你不需要再单独pip安装Keras。tf.keras就是标准入口它和底层tf.Module、tf.GradientTape等机制天然打通。这意味着你用Keras搭建的模型底层仍然可以挂载自定义训练循环、自定义损失函数不会因为入门选了高级API就被锁死在玩具层面。入门时用它的高层封装快速出结果进阶时再往下钻底层机制这条路是通的。1.2 Keras模型的三种编写方式为什么新手只需要先掌握其中一种Keras提供三种模型定义方式很多教程一上来就把三种全摆出来反而把人看晕了。这里我直接说结论入门阶段你只需要掌握Sequential顺序模型甚至可以说跑通手写数字识别这个经典任务只需要它。Sequential按层顺序堆叠像一个流水线前一层输出就是后一层输入。适合绝大多数入门任务和结构化数据、图像分类的起步模型。Functional允许层与层之间任意连接比如多输入、多输出、残差连接。等你需要设计复杂网络时再学。Model Subclassing直接用Python类自定义forward逻辑自由度最高但debug成本也高一般是做研究或设计非常规网络的人才需要。我的建议是先用Sequential把完整流程跑通对数据流入模型—计算损失—反向传播—更新权重这条链路有体感之后再去碰Functional和Subclassing。地基都没打稳就想着盖阁楼只会让自己挫败感爆棚。2. 开发环境搭建版本匹配、安装验证与数据集下载很多人以为环境搭建就是一条pip install tensorflow就完事结果装完第一天就被各种报错轰炸。这里面的坑十有八九都是版本匹配问题而不是代码问题。2.1 Python版本与框架版本的匹配陷阱TensorFlow对Python版本的支持是有滞后的你的Python刚升级到最新版TensorFlow很可能还没来得及适配。常见的报错长这样Could not find a version that satisfies the requirement tensorflow或者装完导入时报ModuleNotFoundError: No module named numpy又或者numpy版本冲突导致一堆C扩展报错。我自己测试下来比较稳的组合是Python 3.9或3.10配合TensorFlow 2.10及以上的版本。如果你用的是非常新的Python发布版建议先到官方文档查一下当前TensorFlow支持的最高Python版本号再决定是否要降级Python。这一步千万别靠猜环境干净比版本新更重要。另外提醒一句如果你是纯CPU环境直接安装官方tensorflow包就行不需要特意去装什么tensorflow-cpu这个包名只在特定时期出现过。GPU环境则需要额外安装CUDA和cuDNN并且CUDA版本要和TensorFlow官方文档里列出的对应版本严格一致这一步对新手来说容错率很低我建议第一遍先CPU跑通再说数据集用的是MNIST这种小规模任务CPU训练也就一两分钟的事。2.2 安装命令与验证代码安装本身没什么玄学在一干净的虚拟环境里执行pip install tensorflow装完之后不要直接开写模型先跑一句话验证环境是否健康python -c import tensorflow as tf; print(TensorFlow version:, tf.__version__); print(Keras API:, tf.keras.__name__)如果输出了类似TensorFlow version: 2.15.0这样的内容并且Keras API正常打印说明核心安装没问题。再看一眼设备信息python -c import tensorflow as tf; print(GPU available:, tf.config.list_physical_devices(GPU))没有GPU就老老实实跑CPU版本对MNIST这个量级完全够用。这条验证命令的作用是把框架坏了和代码写错了这两类问题在第一时间区分开——先确认环境健全再谈模型逻辑。2.3 MNIST数据集的下载与本地缓存MNIST数据集在Keras里是内置接口两行代码就能拿到训练集和测试集。但需要注意mnist.load_data()首次执行会从外部服务器下载约11MB的数据网络不稳的时候经常会下载失败报一个URL相关错误。数据会缓存在用户目录下的~/.keras/datasets/文件夹里如果你下载经常失败可以手动找到对应版本的MNIST压缩包放到这个目录下再重新执行load_data。这是一个很实用的兜底方案我第一次离线环境跑Keras就是靠这个办法解决的。至于每一张图片长什么样你可以用matplotlib画个3×3的网格看看这有助于建立直观感受灰度图、28×28像素、图片上有手写的阿拉伯数字。3. 第一个实战项目MNIST手写数字识别的逐行拆解MNIST在深度学习界的地位相当于编程界的Hello World。一张图片是一个28×28的灰度像素矩阵里面是一个手写数字0到9任务就是让模型根据像素矩阵判断这张图是哪个数字。整个数据集有60000张训练图和10000张测试图规模小、数据干净特别适合用来理解深度学习全流程。3.1 数据载入与归一化为什么除以255这一步省不了先看代码这里我故意把每一步拆开方便你对照理解import tensorflow as tf # 1. 加载MNIST数据集 mnist tf.keras.datasets.mnist (x_train, y_train), (x_test, y_test) mnist.load_data() # 2. 像素值归一化到0~1区间 x_train x_train / 255.0 x_test x_test / 255.0MNIST每张图片的像素值范围是0到255这是一张灰度图的正常取值区间。如果不做归一化直接喂给神经网络输入数值一大经过加权求和后的值域会很大梯度更新时也容易变得剧烈抖动训练很难稳定收敛。除以255之后所有像素值被压缩到0到1之间梯度更平稳模型收敛也就快得多。这个操作在绝大多数感知机、卷积网络里都是标配不要因为它只有一行代码就自动略过。顺带记住一个实用的形状信息x_train的形状是(60000, 28, 28)也就是60000张28×28的二维图片y_train是60000个整数标签0到9。这些形状信息在后面排错时非常关键很多人报维度错误就是因为对数据长什么样心里没数。3.2 Sequential模型堆叠每一层都在做什么接下来定义模型。一个典型的三层全连接模型是这样的model tf.keras.models.Sequential([ tf.keras.layers.Flatten(input_shape(28, 28)), tf.keras.layers.Dense(128, activationrelu), tf.keras.layers.Dropout(0.2), tf.keras.layers.Dense(10, activationsoftmax) ])逐层说清楚Flatten(input_shape(28, 28))把28×28的二维矩阵拉平成784个数值的一维向量。全连接层接收的是一维特征向量所以必须在入口做这个扁平化操作。input_shape参数只在这个首层需要指定后面的层会自动推导输入维度。Dense(128, activationrelu)全连接层也叫稠密层包含128个神经元。每个神经元把上一层传来的所有数值做加权求和再过一遍ReLU激活函数。ReLU在这里的作用是引入非线性让神经网络能表达更复杂的关系——如果全是线性变换堆再多层也就等价于一层。Dropout(0.2)这一层不改变数据形状而是每次训练迭代时以20%的概率随机丢弃部分神经元的输出。它的作用是让模型不要过度依赖某些固定的神经元组合从而缓解过拟合。训练时起作用推理时自动关闭。Dense(10, activationsoftmax)输出层有10个神经元对应10个数字分类。Softmax把网络最后一层的输出转成10个类别上的概率分布所有概率加起来等于1最后一个概率最大的类别就是模型的预测结果。为什么中间层选128个神经元这不是什么严格公式推出来的数字而是实践中的常用量级对MNIST这种简单问题128足够表达跑得快不容易像256那样明显过拟合。你可以把它换成64或256做对比实验感受一下容量变化对训练的影响这比背参数有意义得多。3.3 编译与训练三个关键参数的取舍逻辑模型定义好了编译这一步决定用什么方式学习model.compile( optimizeradam, losssparse_categorical_crossentropy, metrics[accuracy] ) history model.fit( x_train, y_train, epochs5, validation_data(x_test, y_test) )optimizeradam优化器负责根据梯度更新权重。Adam几乎可以说是入门阶段最省心的选择它自带自适应学习率对初始学习率不敏感不需要你手动做太多调节。做对比实验时再考虑SGD或者带动量版本的SGD。losssparse_categorical_crossentropy这是分类任务的损失函数。你注意这里有个词sparse它对应的是标签是整数比如3、7的情况。如果你的标签做了one-hot编码比如把3变成[0,0,0,1,0,0,0,0,0,0]就要用categorical_crossentropy。不区分这两者是新手很容易踩的坑报错通常会提示shape不匹配。metrics[accuracy]训练过程中除了计算损失还会同步报告准确率指标方便你直观看到模型表现。训练过程会打印进度条每个epoch结束后能看到训练集上的loss和accuracy以及验证集上的对应结果。第一次跑通这个模型验证集准确率一般能到97%到98%以上。看到这个数字你就算真正跨进深度学习的大门了。4. 训练可视化与过拟合从损失曲线读出模型状态模型训练完90%的新手直接看最后一行acc觉得还不错就结束了。其实训练过程中的曲线信息量远大于最终那个数字它能告诉你模型到底是正常收敛、欠拟合还是已经过拟合。4.1 用History对象把训练过程画出来model.fit有一个返回值history里面记录了每个epoch的训练损失和指标。加上验证集你就能画出两条损失曲线import matplotlib.pyplot as plt history model.fit( x_train, y_train, epochs10, validation_data(x_test, y_test), verbose2 ) plt.plot(history.history[loss], labelTrain Loss) plt.plot(history.history[val_loss], labelValidation Loss) plt.xlabel(Epochs) plt.ylabel(Loss) plt.legend() plt.show()如果两张图一开始抽不出来先确认一个东西你是不是直接在代码文件里写plt.show()然后在终端跑如果是图窗要手动关闭脚本才会继续。我建议新手把绘图代码和训练代码拆开跑或者用plt.savefig(loss_curve.png)保存图片省得卡在窗口交互上。4.2 过拟合的判定标准与几种典型曲线形态画出来的曲线需要会读。我把几种常见情况整理成一张对照表你训练完直接对着看就行训练损失验证损失结论建议动作持续下降持续下降正常收敛继续训练或加大epochs持续下降先降后升过拟合加Dropout、加正则、提前停止高位不降高位不降欠拟合/学习率问题增加模型容量、调低或调高学习率震荡剧烈震荡剧烈学习率过大/数据乱序调低学习率、增大batch_size最典型的过拟合形态是训练损失一路向下验证损失在某几个epoch后掉头向上两条曲线越拉越开。这说明模型已经开始背训练数据了把训练集上的噪声和特例也记住导致对新样本的泛化能力下降。这时候提高训练集上的acc没有意义关键要看验证集表现。4.3 一个容易被忽视的超参数batch_size和它对训练稳定的影响谈到训练稳定性很多教程对batch_size一笔带过其实它对训练行为影响不小。model.fit里默认batch_size32意思是每次从训练集抽32张图计算这32张图的平均梯度再更新一次权重。batch_size设得过小比如1梯度噪声大loss曲线像心电图一样乱跳设得过大比如整个训练集一次性算梯度收敛稳定但极其费内存而且容易陷入局部最优点。32到128之间的取值对MNIST这种量级的数据集都合适。你要是在大模型上训练batch_size还要综合考虑显存容量。养成一个好习惯训练时把batch_size显式写出来别用默认值带过这样后面做参数对比时每个变量都清清楚楚。我自己的经验是入门阶段不要一上来就琢磨学习率调度、自适应优化器选择这些进阶话题。先把默认的Adam加batch_size32跑通再试着改batch_size观察损失曲线的变化这一步能让你对超参数影响训练有很直观的体会。5. 回调与模型持久化训练成果要能存得住、拿得出模型训出来了临门一脚却往往被很多人忽略怎么把训练好的模型保存下来下次直接加载使用而不是重新训练一遍以及怎样在训练过程中自动做决策而不是人肉盯着每一个epoch这就轮到回调机制登场了。5.1 EarlyStopping让模型自己知道什么时候该停前面说过训练epochs设多了容易过拟合但新手哪里知道具体该设多少EarlyStopping就是为此设计的回调。它的逻辑很简单监视验证集上的某个指标比如val_loss如果连续若干轮都没有下降就自动停止训练并选择历史最优的那轮权重保留。early_stop tf.keras.callbacks.EarlyStopping( monitorval_loss, patience3, restore_best_weightsTrue ) history model.fit( x_train, y_train, epochs50, validation_data(x_test, y_test), callbacks[early_stop], verbose2 )patience3表示容忍连续3个epoch没有改善。restore_best_weightsTrue这一项很重要如果没有它训练停止后模型用的还是最后一轮的权重而最后一轮往往是已经过拟合的状态。加上这个参数模型会自动回滚到验证集表现最好的权重。实测下来在小规模任务上设置epochs50加EarlyStopping通常跑10轮左右就停了效果和硬跑50轮但加了Dropout的模型相当省下的时间拿去调整结构不香吗5.2 ModelCheckpoint与模型保存格式的选择光停止不够训练过程中的好模型得保存下来。ModelCheckpoint回调可以自动把指标最优的模型写入磁盘checkpoint tf.keras.callbacks.ModelCheckpoint( best_model.keras, monitorval_accuracy, save_best_onlyTrue ) model.fit( x_train, y_train, epochs10, validation_data(x_test, y_test), callbacks[checkpoint] )这里有一个版本相关的细节值得说不同时期Keras模型保存的推荐格式不太一样。早期流行的是.h5格式用model.save(model.h5)保存。TensorFlow 2.x中期之后官方越来越推荐直接用Keras原生格式.keras它把模型结构、权重、优化器状态和配置打包在一起加载时更可靠也不容易出现h5格式跨版本不兼容的问题。如果你只是想把权重存下来做迁移学习可以用model.save_weights(weights.weights.h5)但注意这种文件只存权重不存结构加载前必须先有相同的模型结构定义。三种方式按场景选择要完整复用模型就用.keras要和纯NumPy权重交互就用.h5或.npz手动导出要迁移学习只用权重就save_weights。5.3 加载模型做推理验证你保存的东西真的能用保存了模型一定要做一次加载推理确认链路是通的# 重新加载整个模型 loaded_model tf.keras.models.load_model(best_model.keras) # 拿测试集前5张图做预测 import numpy as np predictions loaded_model.predict(x_test[:5]) # 取出每个样本概率最大的类别 predicted_labels np.argmax(predictions, axis1) print(预测结果, predicted_labels) print(真实标签, y_test[:5])model.predict返回的是形状为(样本数, 10)的概率矩阵所以要用np.argmax(axis1)把每一行的概率转换成一个具体的类别编号。print出来的两组结果应该基本一致。这一步验证通过说明你这套训练—保存—加载—推理的闭环是完整的后面无论做什么任务这套管线都可以复用。6. 入门之后的下一步与五个高频新手错误跑通了MNIST下一步该怎么走是每个人都会面临的困惑。我的看法很直接不要急着换框架也不要急着上Kaggle的复杂比赛先把图像分类这条线往前走一步。6.1 从全连接到卷积最顺滑的进阶路线MNIST的全连接模型准确率大概在98%左右再往上提靠堆全连接层效果很差因为全连接层没有利用图像的二维空间结构。这时候你应该把目光转向卷积神经网络CNN它是图像任务的主力结构。用Keras写一个简易CNN非常顺滑model tf.keras.models.Sequential([ tf.keras.layers.Conv2D(32, (3, 3), activationrelu, input_shape(28, 28, 1)), tf.keras.layers.MaxPooling2D((2, 2)), tf.keras.layers.Conv2D(64, (3, 3), activationrelu), tf.keras.layers.MaxPooling2D((2, 2)), tf.keras.layers.Flatten(), tf.keras.layers.Dense(64, activationrelu), tf.keras.layers.Dense(10, activationsoftmax) ])注意数据要reshape成四维因为Conv2D期望的输入形状是(高度, 宽度, 通道数)x_train_cnn x_train.reshape(-1, 28, 28, 1) x_test_cnn x_test.reshape(-1, 28, 28, 1)-1 表示自动推算这一维大小也就是样本数60000。改动前后唯一的变化就是多了卷积和池化层训练流程和之前完全一致。这样的CNN在MNIST上随便跑跑就能到99%以上。对比全连接模型的98%你会直观感受到为什么说结构设计比调参重要。经典图像分类任务里CIFAR-10是MNIST之后的自然过渡数据集从10类灰度小图到10类彩色小图挑战性和趣味性都提升了一个台阶。6.2 五个高频新手错误与对应修正文章最后我把这些年在带人和自己踩坑过程中见过最多的五个问题列出来每一个都对应具体的修正方案。不归一化就直接训练。像素值0到255直接进模型loss居高不下训练半天不收敛。修正方案就是除以255.0。epochs设成很大的数字却不加EarlyStopping。曾经见过直接把epochs设成100的最后不仅过拟合还白白烧了三个小时的CPU。修正方案要么加EarlyStopping要么设一个适中的epochs10到15靠validation曲线确认收敛。全连接层层数过多或过宽。有人一上来就用四五个Dense层、每层512个神经元练MNIST结果是训练集acc飞快、验证集acc烂成泥。修正方案小任务先用小模型保持全连接层数在2到3层。验证集和测试集混用。很多人反复用测试集调参测试集的评估结果越调越好但实际上这已经变成了作弊。修正方案验证集用于调参测试集只在最终评估时用一次。环境版本对不上报错先怀疑自己代码。新手看到报错第一反应是我又写错了但很多问题其实是TensorFlow与Python版本不兼容导致的。修正方案遇到报错先去搜索报错信息原文确认是不是已知的版本问题再回头查代码。我自己最早跑这套MNIST的时候也在归一化和维度上反反复复栽跟头。顺手提一个很多人问过我的小问题为什么第一次跑完准确率很高、第二次训练结果却略有差异因为神经网络的权重初始化和Dropout都带有随机性加上训练时样本顺序也随机打乱两次结果在小范围内波动是正常现象。想固定结果可以在import完TensorFlow后设置随机种子tf.random.set_seed(42)把随机性定下来再对比不同结构之间的效果。写到这里一条从环境搭建到模型部署的完整链路已经摆在面前了。试着用这套流程去跑通CIFAR-10或者把你自己的工作数据整理成同样的格式喂进去你会发现深度学习入门其实比想象中线性得多——只要你把环境、数据、模型、训练、保存这套管道磨顺后面学任何新结构都只是往管道里换零件而已。 
长河君 · 2026/10/16 10:03:25 · 阅读 1.2k TensorFlow 2.0与Keras实战：MNIST手写数字识别入门全解
1. 选择TensorFlow 2.0/Keras的真实理由新手的时间都浪费在哪很多想入门深度学习的朋友装好TensorFlow 2.0之后问我的第一个问题往往是下一步干什么不是不想学而是Python基础刚看完Keras的教程翻了好几篇代码复制粘贴过来还是一堆报错最后卡在不知道每一行到底在干嘛这个坎上。这篇文章就是以TensorFlow 2.0/Keras实战为主线把跑通第一个深度学习模型的全过程拆开讲。从为什么选这套技术栈讲起再到环境搭建、数据准备、模型训练、过拟合处理、模型保存最后说说入门之后该往哪个方向走。深度学习框架这么多为什么入门首选TensorFlow 2.0/Keras我刚接触深度学习那会儿TensorFlow还是1.x时代。当时的学习曲线是真的劝退你先要用占位符把输入描述好再一层层定义计算图最后还得开一个Session去run。一个简单的线性回归代码量比我手推算还费劲。很多人就是死在这个阶段——不是不理解神经网络而是被框架的抽象方式绕晕了。1.1 从静态计算图到动态执行这一刀切在了关键位置TensorFlow 2.0最大的变化是默认开启了动态图模式Eager Execution。学术点说叫命令式编程通俗讲就是写代码的方式回归到了你熟悉的Python逻辑。定义一个层、传入数据、得到输出整个过程逐行执行跟普通Python没有区别。这个变化的决定性意义用一句话总结就是调试变得有温度了。以前在计算图模式下你写错了某个维度报错信息经常是把整张图编译完之后砸给你一段完全看不懂的堆栈现在动态执行哪一行出的问题错误就停在那一行你甚至可以在中间打印张量的形状和数值来确认模型理解得对不对。对于新手来说这个可调试性比什么花哨功能都重要。还有一个容易被忽略的点Keras在TensorFlow 2.0里变成了官方高级API你不需要再单独pip安装Keras。tf.keras就是标准入口它和底层tf.Module、tf.GradientTape等机制天然打通。这意味着你用Keras搭建的模型底层仍然可以挂载自定义训练循环、自定义损失函数不会因为入门选了高级API就被锁死在玩具层面。入门时用它的高层封装快速出结果进阶时再往下钻底层机制这条路是通的。1.2 Keras模型的三种编写方式为什么新手只需要先掌握其中一种Keras提供三种模型定义方式很多教程一上来就把三种全摆出来反而把人看晕了。这里我直接说结论入门阶段你只需要掌握Sequential顺序模型甚至可以说跑通手写数字识别这个经典任务只需要它。Sequential按层顺序堆叠像一个流水线前一层输出就是后一层输入。适合绝大多数入门任务和结构化数据、图像分类的起步模型。Functional允许层与层之间任意连接比如多输入、多输出、残差连接。等你需要设计复杂网络时再学。Model Subclassing直接用Python类自定义forward逻辑自由度最高但debug成本也高一般是做研究或设计非常规网络的人才需要。我的建议是先用Sequential把完整流程跑通对数据流入模型—计算损失—反向传播—更新权重这条链路有体感之后再去碰Functional和Subclassing。地基都没打稳就想着盖阁楼只会让自己挫败感爆棚。2. 开发环境搭建版本匹配、安装验证与数据集下载很多人以为环境搭建就是一条pip install tensorflow就完事结果装完第一天就被各种报错轰炸。这里面的坑十有八九都是版本匹配问题而不是代码问题。2.1 Python版本与框架版本的匹配陷阱TensorFlow对Python版本的支持是有滞后的你的Python刚升级到最新版TensorFlow很可能还没来得及适配。常见的报错长这样Could not find a version that satisfies the requirement tensorflow或者装完导入时报ModuleNotFoundError: No module named numpy又或者numpy版本冲突导致一堆C扩展报错。我自己测试下来比较稳的组合是Python 3.9或3.10配合TensorFlow 2.10及以上的版本。如果你用的是非常新的Python发布版建议先到官方文档查一下当前TensorFlow支持的最高Python版本号再决定是否要降级Python。这一步千万别靠猜环境干净比版本新更重要。另外提醒一句如果你是纯CPU环境直接安装官方tensorflow包就行不需要特意去装什么tensorflow-cpu这个包名只在特定时期出现过。GPU环境则需要额外安装CUDA和cuDNN并且CUDA版本要和TensorFlow官方文档里列出的对应版本严格一致这一步对新手来说容错率很低我建议第一遍先CPU跑通再说数据集用的是MNIST这种小规模任务CPU训练也就一两分钟的事。2.2 安装命令与验证代码安装本身没什么玄学在一干净的虚拟环境里执行pip install tensorflow装完之后不要直接开写模型先跑一句话验证环境是否健康python -c import tensorflow as tf; print(TensorFlow version:, tf.__version__); print(Keras API:, tf.keras.__name__)如果输出了类似TensorFlow version: 2.15.0这样的内容并且Keras API正常打印说明核心安装没问题。再看一眼设备信息python -c import tensorflow as tf; print(GPU available:, tf.config.list_physical_devices(GPU))没有GPU就老老实实跑CPU版本对MNIST这个量级完全够用。这条验证命令的作用是把框架坏了和代码写错了这两类问题在第一时间区分开——先确认环境健全再谈模型逻辑。2.3 MNIST数据集的下载与本地缓存MNIST数据集在Keras里是内置接口两行代码就能拿到训练集和测试集。但需要注意mnist.load_data()首次执行会从外部服务器下载约11MB的数据网络不稳的时候经常会下载失败报一个URL相关错误。数据会缓存在用户目录下的~/.keras/datasets/文件夹里如果你下载经常失败可以手动找到对应版本的MNIST压缩包放到这个目录下再重新执行load_data。这是一个很实用的兜底方案我第一次离线环境跑Keras就是靠这个办法解决的。至于每一张图片长什么样你可以用matplotlib画个3×3的网格看看这有助于建立直观感受灰度图、28×28像素、图片上有手写的阿拉伯数字。3. 第一个实战项目MNIST手写数字识别的逐行拆解MNIST在深度学习界的地位相当于编程界的Hello World。一张图片是一个28×28的灰度像素矩阵里面是一个手写数字0到9任务就是让模型根据像素矩阵判断这张图是哪个数字。整个数据集有60000张训练图和10000张测试图规模小、数据干净特别适合用来理解深度学习全流程。3.1 数据载入与归一化为什么除以255这一步省不了先看代码这里我故意把每一步拆开方便你对照理解import tensorflow as tf # 1. 加载MNIST数据集 mnist tf.keras.datasets.mnist (x_train, y_train), (x_test, y_test) mnist.load_data() # 2. 像素值归一化到0~1区间 x_train x_train / 255.0 x_test x_test / 255.0MNIST每张图片的像素值范围是0到255这是一张灰度图的正常取值区间。如果不做归一化直接喂给神经网络输入数值一大经过加权求和后的值域会很大梯度更新时也容易变得剧烈抖动训练很难稳定收敛。除以255之后所有像素值被压缩到0到1之间梯度更平稳模型收敛也就快得多。这个操作在绝大多数感知机、卷积网络里都是标配不要因为它只有一行代码就自动略过。顺带记住一个实用的形状信息x_train的形状是(60000, 28, 28)也就是60000张28×28的二维图片y_train是60000个整数标签0到9。这些形状信息在后面排错时非常关键很多人报维度错误就是因为对数据长什么样心里没数。3.2 Sequential模型堆叠每一层都在做什么接下来定义模型。一个典型的三层全连接模型是这样的model tf.keras.models.Sequential([ tf.keras.layers.Flatten(input_shape(28, 28)), tf.keras.layers.Dense(128, activationrelu), tf.keras.layers.Dropout(0.2), tf.keras.layers.Dense(10, activationsoftmax) ])逐层说清楚Flatten(input_shape(28, 28))把28×28的二维矩阵拉平成784个数值的一维向量。全连接层接收的是一维特征向量所以必须在入口做这个扁平化操作。input_shape参数只在这个首层需要指定后面的层会自动推导输入维度。Dense(128, activationrelu)全连接层也叫稠密层包含128个神经元。每个神经元把上一层传来的所有数值做加权求和再过一遍ReLU激活函数。ReLU在这里的作用是引入非线性让神经网络能表达更复杂的关系——如果全是线性变换堆再多层也就等价于一层。Dropout(0.2)这一层不改变数据形状而是每次训练迭代时以20%的概率随机丢弃部分神经元的输出。它的作用是让模型不要过度依赖某些固定的神经元组合从而缓解过拟合。训练时起作用推理时自动关闭。Dense(10, activationsoftmax)输出层有10个神经元对应10个数字分类。Softmax把网络最后一层的输出转成10个类别上的概率分布所有概率加起来等于1最后一个概率最大的类别就是模型的预测结果。为什么中间层选128个神经元这不是什么严格公式推出来的数字而是实践中的常用量级对MNIST这种简单问题128足够表达跑得快不容易像256那样明显过拟合。你可以把它换成64或256做对比实验感受一下容量变化对训练的影响这比背参数有意义得多。3.3 编译与训练三个关键参数的取舍逻辑模型定义好了编译这一步决定用什么方式学习model.compile( optimizeradam, losssparse_categorical_crossentropy, metrics[accuracy] ) history model.fit( x_train, y_train, epochs5, validation_data(x_test, y_test) )optimizeradam优化器负责根据梯度更新权重。Adam几乎可以说是入门阶段最省心的选择它自带自适应学习率对初始学习率不敏感不需要你手动做太多调节。做对比实验时再考虑SGD或者带动量版本的SGD。losssparse_categorical_crossentropy这是分类任务的损失函数。你注意这里有个词sparse它对应的是标签是整数比如3、7的情况。如果你的标签做了one-hot编码比如把3变成[0,0,0,1,0,0,0,0,0,0]就要用categorical_crossentropy。不区分这两者是新手很容易踩的坑报错通常会提示shape不匹配。metrics[accuracy]训练过程中除了计算损失还会同步报告准确率指标方便你直观看到模型表现。训练过程会打印进度条每个epoch结束后能看到训练集上的loss和accuracy以及验证集上的对应结果。第一次跑通这个模型验证集准确率一般能到97%到98%以上。看到这个数字你就算真正跨进深度学习的大门了。4. 训练可视化与过拟合从损失曲线读出模型状态模型训练完90%的新手直接看最后一行acc觉得还不错就结束了。其实训练过程中的曲线信息量远大于最终那个数字它能告诉你模型到底是正常收敛、欠拟合还是已经过拟合。4.1 用History对象把训练过程画出来model.fit有一个返回值history里面记录了每个epoch的训练损失和指标。加上验证集你就能画出两条损失曲线import matplotlib.pyplot as plt history model.fit( x_train, y_train, epochs10, validation_data(x_test, y_test), verbose2 ) plt.plot(history.history[loss], labelTrain Loss) plt.plot(history.history[val_loss], labelValidation Loss) plt.xlabel(Epochs) plt.ylabel(Loss) plt.legend() plt.show()如果两张图一开始抽不出来先确认一个东西你是不是直接在代码文件里写plt.show()然后在终端跑如果是图窗要手动关闭脚本才会继续。我建议新手把绘图代码和训练代码拆开跑或者用plt.savefig(loss_curve.png)保存图片省得卡在窗口交互上。4.2 过拟合的判定标准与几种典型曲线形态画出来的曲线需要会读。我把几种常见情况整理成一张对照表你训练完直接对着看就行训练损失验证损失结论建议动作持续下降持续下降正常收敛继续训练或加大epochs持续下降先降后升过拟合加Dropout、加正则、提前停止高位不降高位不降欠拟合/学习率问题增加模型容量、调低或调高学习率震荡剧烈震荡剧烈学习率过大/数据乱序调低学习率、增大batch_size最典型的过拟合形态是训练损失一路向下验证损失在某几个epoch后掉头向上两条曲线越拉越开。这说明模型已经开始背训练数据了把训练集上的噪声和特例也记住导致对新样本的泛化能力下降。这时候提高训练集上的acc没有意义关键要看验证集表现。4.3 一个容易被忽视的超参数batch_size和它对训练稳定的影响谈到训练稳定性很多教程对batch_size一笔带过其实它对训练行为影响不小。model.fit里默认batch_size32意思是每次从训练集抽32张图计算这32张图的平均梯度再更新一次权重。batch_size设得过小比如1梯度噪声大loss曲线像心电图一样乱跳设得过大比如整个训练集一次性算梯度收敛稳定但极其费内存而且容易陷入局部最优点。32到128之间的取值对MNIST这种量级的数据集都合适。你要是在大模型上训练batch_size还要综合考虑显存容量。养成一个好习惯训练时把batch_size显式写出来别用默认值带过这样后面做参数对比时每个变量都清清楚楚。我自己的经验是入门阶段不要一上来就琢磨学习率调度、自适应优化器选择这些进阶话题。先把默认的Adam加batch_size32跑通再试着改batch_size观察损失曲线的变化这一步能让你对超参数影响训练有很直观的体会。5. 回调与模型持久化训练成果要能存得住、拿得出模型训出来了临门一脚却往往被很多人忽略怎么把训练好的模型保存下来下次直接加载使用而不是重新训练一遍以及怎样在训练过程中自动做决策而不是人肉盯着每一个epoch这就轮到回调机制登场了。5.1 EarlyStopping让模型自己知道什么时候该停前面说过训练epochs设多了容易过拟合但新手哪里知道具体该设多少EarlyStopping就是为此设计的回调。它的逻辑很简单监视验证集上的某个指标比如val_loss如果连续若干轮都没有下降就自动停止训练并选择历史最优的那轮权重保留。early_stop tf.keras.callbacks.EarlyStopping( monitorval_loss, patience3, restore_best_weightsTrue ) history model.fit( x_train, y_train, epochs50, validation_data(x_test, y_test), callbacks[early_stop], verbose2 )patience3表示容忍连续3个epoch没有改善。restore_best_weightsTrue这一项很重要如果没有它训练停止后模型用的还是最后一轮的权重而最后一轮往往是已经过拟合的状态。加上这个参数模型会自动回滚到验证集表现最好的权重。实测下来在小规模任务上设置epochs50加EarlyStopping通常跑10轮左右就停了效果和硬跑50轮但加了Dropout的模型相当省下的时间拿去调整结构不香吗5.2 ModelCheckpoint与模型保存格式的选择光停止不够训练过程中的好模型得保存下来。ModelCheckpoint回调可以自动把指标最优的模型写入磁盘checkpoint tf.keras.callbacks.ModelCheckpoint( best_model.keras, monitorval_accuracy, save_best_onlyTrue ) model.fit( x_train, y_train, epochs10, validation_data(x_test, y_test), callbacks[checkpoint] )这里有一个版本相关的细节值得说不同时期Keras模型保存的推荐格式不太一样。早期流行的是.h5格式用model.save(model.h5)保存。TensorFlow 2.x中期之后官方越来越推荐直接用Keras原生格式.keras它把模型结构、权重、优化器状态和配置打包在一起加载时更可靠也不容易出现h5格式跨版本不兼容的问题。如果你只是想把权重存下来做迁移学习可以用model.save_weights(weights.weights.h5)但注意这种文件只存权重不存结构加载前必须先有相同的模型结构定义。三种方式按场景选择要完整复用模型就用.keras要和纯NumPy权重交互就用.h5或.npz手动导出要迁移学习只用权重就save_weights。5.3 加载模型做推理验证你保存的东西真的能用保存了模型一定要做一次加载推理确认链路是通的# 重新加载整个模型 loaded_model tf.keras.models.load_model(best_model.keras) # 拿测试集前5张图做预测 import numpy as np predictions loaded_model.predict(x_test[:5]) # 取出每个样本概率最大的类别 predicted_labels np.argmax(predictions, axis1) print(预测结果, predicted_labels) print(真实标签, y_test[:5])model.predict返回的是形状为(样本数, 10)的概率矩阵所以要用np.argmax(axis1)把每一行的概率转换成一个具体的类别编号。print出来的两组结果应该基本一致。这一步验证通过说明你这套训练—保存—加载—推理的闭环是完整的后面无论做什么任务这套管线都可以复用。6. 入门之后的下一步与五个高频新手错误跑通了MNIST下一步该怎么走是每个人都会面临的困惑。我的看法很直接不要急着换框架也不要急着上Kaggle的复杂比赛先把图像分类这条线往前走一步。6.1 从全连接到卷积最顺滑的进阶路线MNIST的全连接模型准确率大概在98%左右再往上提靠堆全连接层效果很差因为全连接层没有利用图像的二维空间结构。这时候你应该把目光转向卷积神经网络CNN它是图像任务的主力结构。用Keras写一个简易CNN非常顺滑model tf.keras.models.Sequential([ tf.keras.layers.Conv2D(32, (3, 3), activationrelu, input_shape(28, 28, 1)), tf.keras.layers.MaxPooling2D((2, 2)), tf.keras.layers.Conv2D(64, (3, 3), activationrelu), tf.keras.layers.MaxPooling2D((2, 2)), tf.keras.layers.Flatten(), tf.keras.layers.Dense(64, activationrelu), tf.keras.layers.Dense(10, activationsoftmax) ])注意数据要reshape成四维因为Conv2D期望的输入形状是(高度, 宽度, 通道数)x_train_cnn x_train.reshape(-1, 28, 28, 1) x_test_cnn x_test.reshape(-1, 28, 28, 1)-1 表示自动推算这一维大小也就是样本数60000。改动前后唯一的变化就是多了卷积和池化层训练流程和之前完全一致。这样的CNN在MNIST上随便跑跑就能到99%以上。对比全连接模型的98%你会直观感受到为什么说结构设计比调参重要。经典图像分类任务里CIFAR-10是MNIST之后的自然过渡数据集从10类灰度小图到10类彩色小图挑战性和趣味性都提升了一个台阶。6.2 五个高频新手错误与对应修正文章最后我把这些年在带人和自己踩坑过程中见过最多的五个问题列出来每一个都对应具体的修正方案。不归一化就直接训练。像素值0到255直接进模型loss居高不下训练半天不收敛。修正方案就是除以255.0。epochs设成很大的数字却不加EarlyStopping。曾经见过直接把epochs设成100的最后不仅过拟合还白白烧了三个小时的CPU。修正方案要么加EarlyStopping要么设一个适中的epochs10到15靠validation曲线确认收敛。全连接层层数过多或过宽。有人一上来就用四五个Dense层、每层512个神经元练MNIST结果是训练集acc飞快、验证集acc烂成泥。修正方案小任务先用小模型保持全连接层数在2到3层。验证集和测试集混用。很多人反复用测试集调参测试集的评估结果越调越好但实际上这已经变成了作弊。修正方案验证集用于调参测试集只在最终评估时用一次。环境版本对不上报错先怀疑自己代码。新手看到报错第一反应是我又写错了但很多问题其实是TensorFlow与Python版本不兼容导致的。修正方案遇到报错先去搜索报错信息原文确认是不是已知的版本问题再回头查代码。我自己最早跑这套MNIST的时候也在归一化和维度上反反复复栽跟头。顺手提一个很多人问过我的小问题为什么第一次跑完准确率很高、第二次训练结果却略有差异因为神经网络的权重初始化和Dropout都带有随机性加上训练时样本顺序也随机打乱两次结果在小范围内波动是正常现象。想固定结果可以在import完TensorFlow后设置随机种子tf.random.set_seed(42)把随机性定下来再对比不同结构之间的效果。写到这里一条从环境搭建到模型部署的完整链路已经摆在面前了。试着用这套流程去跑通CIFAR-10或者把你自己的工作数据整理成同样的格式喂进去你会发现深度学习入门其实比想象中线性得多——只要你把环境、数据、模型、训练、保存这套管道磨顺后面学任何新结构都只是往管道里换零件而已。