1. 写在前面说实话写这个系列的时候我一直在想一件事很多人从第一课开始跟着学前馈神经网络会写了CNN 会调了LSTM 也能跑了但真到了自己面对一个全新数据集的时候反而不知道到底该用哪种网络。这个问题不怪大家因为单个框架学得再多如果没试过在同一个任务上把它们拉到一起对比你对网络结构的“感觉”是建立不起来的。所以这个第十五篇我换个思路不做新模型的理论推导把前十四篇里出现过的几种主流架构——前馈神经网络、卷积神经网络、LSTM 循环神经网络、图神经网络——放在同一批数据上做一次横向对比重点看它们的结构差异、适用场景、收敛速度和最终效果。一方面帮大家建立一个“选型直觉”另一方面也把理论课里容易忽略的实现细节比如参数初始化、训练回调、过拟合判断这些用实战的方式再过一遍。如果你已经掌握了 Python 和 Keras/TensorFlow 的基本用法这一篇可以直接照着代码跑。如果你刚刚看到这个系列建议先把前几篇的基础内容补一下尤其是反向传播和梯度下降那两篇不然后面的对比结论你看得会有点懵。这篇虽然不涉及复杂的数学推导但对“为什么这个网络适合这种数据”的解释需要你有一点网络结构的基本概念。2. 四种网络架构的核心差异与适用边界2.1 前馈神经网络一切的基础前馈神经网络FNN可能是我们从零开始接触的第一种结构。输入层接收特征经过一个或多个隐藏层每层做一次线性变换加激活函数最后在输出层得到结果。数据从输入到输出单向流动没有反馈连接所以叫“前馈”。它最大的特点就是“通用但直接”。任何数据只要能表示成一个固定维度的向量理论上都能塞进前馈网络里试一把。比如你手头有一份用户行为表格每行是一个用户的特征列是年龄、消费频次、最近登录时间等等这种结构化数据直接拼成向量喂进去就行不需要像图像数据那样考虑空间结构也不像文本需要考虑顺序关系。但通用的代价是结构信息会被浪费。一张 28×28 的 MNIST 手写数字图如果把它拉平成 784 维向量丢进全连接层像素之间的空间相邻关系就完全丢失了。网络需要靠大量参数自己重新学习“相邻像素灰度变化代表了边缘”这件事而这件事卷积网络天生就知道。所以前馈网络处理高维图像时往往需要非常大的隐藏层参数膨胀得厉害还容易过拟合。我个人的习惯是如果是干净的结构化表格数据先用前馈网络搭一个基线如果是图像、语音这类有局部相关性的数据直接考虑卷积或循环结构如果你不确定任务属于哪种类型先从前馈开始绝对不会错因为它的下限不低调参也最直观。2.2 CNN 卷积神经网络局部感知与权值共享CNN 的核心贡献就是把“局部相关性”这个概念固化进了网络结构。每个卷积核只在一个小窗口内做加权求和然后再滑到下一个位置。这个操作带来两个直接收益第一是参数数量大幅下降。一个 3×3 的卷积核只有 9 个权重加 1 个偏置无论输入是 128×128 还是 512×512卷积层的参数量只取决于核的个数和尺寸而不是输入尺寸。对比一下一个输入 784 维、隐藏层 512 个神经元的前馈层光权重就有四十万个这个量级差距非常鲜明。第二是平移等变性。同一个数字在图片的左上角还是右下角卷积核捕捉到的局部特征本质相同这让模型对位置变化不那么敏感。再加上池化层对局部区域的降采样进一步增强了鲁棒性同时压缩了特征图尺寸控制后续计算量。不过 CNN 也有自己的盲区——它假设数据存在局部空间关系但这个假设不总是成立。交易记录、社交关系这类数据就没有天然的二维网格结构强行把它们组织成伪图像往往得不偿失。此外CNN 的训练比前馈网络敏感得多学习率、卷积核数量、池化策略都非常影响最终效果。新手最容易踩的坑就是堆很多层卷积但不用批归一化训练到一半 loss 突然发散。2.3 LSTM 循环神经网络记忆与门控LSTM 解决的核心问题是序列数据里的长距离依赖。它的结构里有一个隐状态向量像一条传送带一样贯穿每个时间步同时由遗忘门、输入门、输出门三个门控单元共同决定信息的保留、写入和输出。这套机制让网络有能力记住几十步之前的关键特征。但要注意LSTM 并不是为了图像分类设计的。虽然我在后面的实验里会把 MNIST 图像当成像素序列输入 LSTM但那是为了演示“任何数据都可以硬编码成序列喂进循环网络”而不是推荐这种用法。事实上LSTM 处理图像的效果通常不如 CNN因为它没有利用像素的空间局部性每个时刻只看到一个像素相邻关系需要靠隐状态慢慢传递效率很低。真正适合 LSTM 的场景是时间序列、自然语言、音频片段这类有先后顺序的数据。如果你在做用电量预测、天气预测或舆情分析LSTM 及其变体是很值得考虑的选择。但这类任务通常要特别注意数据的时间窗口划分和状态重置问题处理不好会比模型结构本身更容易翻车。2.4 图神经网络 GNN非欧氏空间的另类前馈、CNN、LSTM 都有一个共同点它们处理的数据都有规则的结构要么是固定长度的向量要么是规则的网格要么是线性序列。但现实世界还有一种非常常见的数据形式完全没有这些约束——图。社交网络、分子结构、交通路网都是典型的图数据。节点数量不固定节点的邻居数量也不固定这导致 CNN 的卷积操作没法直接搬到图上。GNN 的思路是定义一个“图卷积”操作让每个节点聚合邻居节点的特征再经过变换和激活逐层迭代更新节点表示。这种机制叫做消息传递你可以把它理解成每个节点先听一圈邻居的意见然后结合自己的信息更新自己的判断然后再跟下一层的邻居交流。GNN 在节点分类、链接预测、图分类等任务上表现优秀但训练难度也比前面三种网络更大因为图结构的复杂性和规模变化会让 batchnorm 等常规技巧失效训练的稳定性很大程度上依赖邻接矩阵的归一化方式和初始特征的质量。我在后面的示例中会给出一个最简单的 GCN 层实现让大家看看图卷积和普通卷积的本质区别在哪里。3. 实验设计与数据准备3.1 为什么要做多模型横向对比单一模型学得再好不放在同一基准上比较很难形成对结构差异的直观认知。这就像只看参数表买车永远不知道那台发动机实际开起来是什么脾气。把四种网络放在同一个数据集上跑我们能观察到的信息非常多谁收敛快、谁参数多、谁对预处理更敏感、谁更容易过拟合。这次实验我选择 MNIST 手写数字识别作为主赛道原因有三。第一数据集足够简单平均模型都能达到比较高准确率这样对比重点可以从“能不能跑通”转移到“谁的收敛曲线更漂亮”第二MNIST 是标准的 28×28 单通道图像既可以直接拉平给前馈网络也可以用二维卷积处理还能按像素序列喂给 LSTM一种数据三种用法非常方便第三因为任务简单训练时间可控迭代实验成本低特别适合做参数敏感性的探索。需要注意的是对比实验要控制变量。我统一使用相同的随机种子初始化统一使用 Adam 优化器初始学习率都设为 0.001统一使用交叉熵损失函数作为分类目标epoch 都设定为 20 轮。这样实验结果之间的差异基本都可以归因于网络结构本身而不是训练策略的不同。3.2 MNIST 数据集的加载与预处理MNIST 在 TensorFlow/Keras 里可以直接通过keras.datasets.mnist.load_data()获取。下载完成后会返回训练集和测试集图像数组的形状是(样本数, 28, 28)取值范围 0 到 255。预处理分三步归一化、调整形状、one-hot 标签。归一化直接除以 255 就可以让像素值落在 0 到 1 之间然后根据模型类型变换输入形状前馈网络需要(784,)CNN 需要(28, 28, 1)LSTM 需要(28, 28)标签用keras.utils.to_categorical转成 10 分类 one-hot 向量。代码如下import tensorflow as tf from tensorflow import keras import numpy as np (x_train, y_train), (x_test, y_test) keras.datasets.mnist.load_data() x_train x_train.astype(float32) / 255.0 x_test x_test.astype(float32) / 255.0 # 各模型需要的形状提前准备好 x_train_flat x_train.reshape(-1, 784) x_test_flat x_test.reshape(-1, 784) x_train_cnn x_train.reshape(-1, 28, 28, 1) x_test_cnn x_test.reshape(-1, 28, 28, 1) x_train_seq x_train.reshape(-1, 28, 28) # 每个时间步一行像素 x_test_seq x_test.reshape(-1, 28, 28) y_train keras.utils.to_categorical(y_train, 10) y_test keras.utils.to_categorical(y_test, 10)关于数据顺序MNIST 的手写数字在图像中位置基本居中边缘区域信息量少所以没有做额外的裁剪或者平移。如果换更复杂的图像数据集建议先看一眼样本可视化确认数据分布之后再决定是否需要数据增强。4. 模型实现与训练代码详解4.1 前馈网络的三层经典结构前馈网络的实现最简单。输入层用Flatten把 28×28 的图像拉平成 784 维向量下面接两个全连接层中间加 ReLU 激活最后接 softmax 输出层。中间层的神经元数量我选了 512这个值不算大但在这个数据量下已经完全够用再往上加神经元只会增加过拟合风险而不会获得实质收益。from tensorflow.keras import layers, models def build_fnn(): model models.Sequential([ layers.Flatten(input_shape(28, 28)), layers.Dense(512, activationrelu), layers.Dense(256, activationrelu), layers.Dense(10, activationsoftmax) ]) return model一个小贴士第一个隐层的神经元数量有一个经验起点大约是输入维度的一半到一倍之间。对 784 维输入来说512 或 256 都比较常见。如果太激进一步到位设置成 2048两层之间的参数量会接近两百万在小数据集上不仅训练慢而且极容易把训练准确率顶到 100%、验证集却跟不上。4.2 CNN 的两层卷积加池化结构CNN 的结构我用了两个卷积层尺寸分别是 32 和 64 个 3×3 卷积核中间穿插最大池化将特征图尺寸减半。最后接一个全局平均池化代替展平操作因为它在参数量和过拟合控制上往往比全连接层更友好。完整代码如下from tensorflow.keras import layers, models def build_cnn(): model models.Sequential([ layers.Input(shape(28, 28, 1)), layers.Conv2D(32, (3, 3), activationrelu, paddingsame), layers.MaxPooling2D((2, 2)), layers.Conv2D(64, (3, 3), activationrelu, paddingsame), layers.MaxPooling2D((2, 2)), layers.GlobalAveragePooling2D(), layers.Dense(10, activationsoftmax) ]) return model重点关注的是paddingsame这个参数。如果不加 padding3×3 的卷积在 28×28 输入上会把特征图缩小成 26×26两次卷积加两次池化之后到全局池化之前的空间尺寸会变得很复杂很容易在某些数据集上算错维度。加 padding 可以保证卷积不改变空间尺寸这样特征图经过两次池化后从 28→14→7后续计算过程也更好推导。CNN 的参数量大多集中在最后一个全连接层。这里我用全局平均池化把 7×7×64 的特征图直接压缩成 64 维向量再接到 10 分类输出层参数数量就非常小了。这个设计对 MNIST 这种简单任务很管用但在大尺寸复杂图像上最后一层的表达能力可能会偏弱那时候再考虑加一个轻量全连接头。4.3 LSTM把图像当序列读用 LSTM 跑 MNIST 的逻辑是把每一张图切分成 28 行每行 28 个像素作为一个时间步的输入。因此输入形状是(batch_size, 28, 28)LSTM 层会依次读入 28 个时间步的像素向量最后输出最后一个时间步的隐状态。代码很短from tensorflow.keras import layers, models def build_lstm_model(): model models.Sequential([ layers.Input(shape(28, 28)), layers.LSTM(64), layers.Dense(10, activationsoftmax) ]) return modelLSTM 层的64是隐状态的维度。MNIST 每个时间步只有 28 个像素信息量不大64 维的隐状态已经足够记忆关键信息。如果你把隐状态调到 256参数量会显著上升但准确率不一定有同比例提升。需要提醒的是LSTM 在 CPU 上跑得比较慢因为循环结构无法像卷积那样完全并行。如果你用的是 GPU 设备TensorFlow 会自动优化速度差别会小一些。训练 LSTM 时还应当注意梯度裁剪clipnorm 或 clipvalue防止长序列中梯度累积导致爆炸经验上把号设成 1.0 是比较稳妥的起点。4.4 一个简单 GCN 的代码演示GNN 在 Keras 里没有像 Conv2D 那么简单好用的官方层所以我想用一个手写的单层图卷积GCN来演示核心思想。我们不再使用 MNIST而是构建一个最简单的小规模社交关系图每个节点有 3 维特征目标是做二分类。这里要引入邻接矩阵和度矩阵的概念import numpy as np import tensorflow as tf from tensorflow.keras import layers class GCNLayer(layers.Layer): def __init__(self, out_dim, **kwargs): super().__init__(**kwargs) self.out_dim out_dim def build(self, input_shape): self.kernel self.add_weight( namekernel, shape(input_shape[-1], self.out_dim), initializerglorot_uniform, trainableTrue ) self.bias self.add_weight( namebias, shape(self.out_dim,), initializerzeros, trainableTrue ) def call(self, inputs): x, adj inputs # 对称归一化邻接矩阵 D^{-1/2} A D^{-1/2} d tf.reduce_sum(adj, axis-1) d_inv_sqrt tf.pow(d 1e-5, -0.5) d_inv_sqrt tf.linalg.diag(d_inv_sqrt) norm_adj tf.matmul(tf.matmul(d_inv_sqrt, adj), d_inv_sqrt) # 消息聚合 h tf.matmul(norm_adj, x) out tf.matmul(h, self.kernel) self.bias return out这里每一步的含义是先计算每个节点的度也就是它在邻接矩阵中有多少个邻居度取负 0.5 次方用于归一化避免高度节点和低度节点的特征尺度差异过大然后把归一化后的邻接矩阵与节点特征相乘这个操作相当于把邻居的特征加权汇总到自己身上最后再做一次线性变换加偏置。你对比一下普通全连接层的公式y Wx b会发现 GCN 只是把x替换成了聚合后的邻居信息Ãx。在真实任务里你还需要准备一个稀疏邻接矩阵存储因为完整稠密矩阵的规模是节点数的平方几千节点的图可能就会占用几百 MB 内存。但对于演示数据稠密矩阵完全够用。这个例子的重点不在于拿到多高的准确率而在于理解“节点更新自己的表示时是如何使用邻居信息的”。4.5 训练回调与训练日志回归主赛道。三种 MNIST 模型我都采用统一的训练配置但额外加了两个训练回调EarlyStopping和ReduceLROnPlateau。前者监控验证集准确率连续三轮不提升就提前终止训练后者在验证集准确率进入平台期时把学习率下降到原来的 0.5 倍帮助损失函数越过局部平坦区域。from tensorflow.keras.callbacks import EarlyStopping, ReduceLROnPlateau callbacks [ EarlyStopping(monitorval_accuracy, patience5, restore_best_weightsTrue), ReduceLROnPlateau(monitorval_accuracy, factor0.5, patience2, min_lr1e-6) ] def compile_and_fit(model, x_tr, y_tr, x_va, y_va, epochs20): model.compile( optimizertf.keras.optimizers.Adam(learning_rate0.001), losscategorical_crossentropy, metrics[accuracy] ) history model.fit( x_tr, y_tr, validation_data(x_va, y_va), epochsepochs, batch_size64, callbackscallbacks, verbose2 ) return historyrestore_best_weightsTrue是我强烈建议每个人使用的参数。它会在早停触发时自动恢复验证集指标最好的那组权重而不是返回最后一轮可能已经过拟合的模型。这个细节很多人忽略导致早停之后测试集成绩反而变差其实不是早停的锅是权重没回滚到最佳点。5. 实验结果对比与解读5.1 收敛速度CNN 最快LSTM 最磨人在我的机器上单张 RTX 3060CPU 为 i7-12700前馈网络和 CNN 在 20 轮内都收敛良好其中 CNN 在第 3 轮左右验证准确率已经超过 98%前馈网络在第 6 轮左右达到 97% 以上。LSTM 明显慢一个档次前 5 轮准确率一直徘徊在 90% 上下到第 12 轮之后才稳定在 97% 以上。这与直觉完全一致LSTM 的循环结构在每一时间步都要更新隐状态学习路径更长信息传递效率天然低于卷积的并行局部感知。这个实验结论对日常选型有直接启发如果任务原本就不需要时序建模用 LSTM 就是给自己找麻烦。很多人觉得“LSTM 比全连接高级”但在图像任务上这种优越感完全不存在。5.2 参数量与训练时长的直接对比我用model.summary()统计了三个模型的参数总量结果如下表模型参数量平均每轮训练耗时前馈网络512-256约 54 万约 9 秒CNN32C-64C全局池化约 2.4 万约 5 秒LSTM隐状态 64约 3.5 万约 18 秒前馈网络的参数最多但参数量大不代表效果最好CNN 的参数量只有前馈的 1/20 左右准确率和收敛速度反而全面领先。这说明参数效率与结构设计密切相关。LSTM 虽然参数量也不算大但循环连接带来的逐时间步计算让它单轮耗时最长。这个结果提醒我们不能只盯着准确率还要看训练和推理成本。如果你在一个边缘设备上部署模型几十万参数和几万参数的差距直接决定了模型能不能跑得动。5.3 正确率与泛化能力差异不考虑随机波动三种模型在测试集上的最终成绩对比如下模型测试集准确率前馈网络97.8%CNN99.1%LSTM97.4%CNN 的优势非常明显前馈网络和 LSTM 则基本持平。前馈网络虽然参数多但在 MNIST 这种简单的任务上勉强也算够用LSTM 作为强行把图像当序列读的模型能拿到接近前馈的成绩已经算是结构本身的容量在兜底。从泛化能力看前馈网络在最后几轮出现了轻微过拟合迹象——训练集准确率接近 100%验证集停滞在 98% 左右。CNN 的训练验证差距一直很小因为权值共享和池化操作天然带了强大的正则效果。LSTM 反而没有明显过拟合但它的瓶颈在欠拟合因为序列化读图的方式确实浪费了图像的空间结构信息。这些数字和结论看起来平淡但如果你把它们和网络结构对应起来思考会发现选型本质上是在“模型容量”和“结构先验”之间做权衡。CNN 成功是因为它把“图像有局部结构”这一正确先验硬编码进了网络LSTM 准确率不那么出彩是因为“像素行之间是时间步关系”这个先验对图像来说是错的。6. 常见问题与排查技巧实录6.1 训练不收敛到底先调什么很多新手看到 loss 不下降就着急调学习率然后越调越乱。我的建议是先看数据的归一化和标签是否正确再看损失函数的数值是否正常最后再动优化器参数。MNIST 这种数据归一化之后非常干净但如果换成自己采集的数据比如某传感器数值范围是 0 到 10000不做归一直接喂网络activation 输出可能全部饱和梯度几乎消失怎么调学习率都没用。遇到这种情况优先做数据标准化减去均值除以标准差或者缩放到 0 到 1 之间。如果数据没问题再看标签是否 one-hot 编码正确。我曾见过有人把类别标签直接当成连续值回归来训练loss 一直在 0.8 附近跳动模型反复怀疑人生其实就是任务建模错了。最后才考虑学习率和优化器而且要用日志曲线做判断不要拍脑袋改。6.2 过拟合和欠拟合如何快速判断过拟合的经典信号是训练集准确率一路上涨验证集准确率涨到某个点后开始回落或停滞二者差距拉大。欠拟合的经典信号则是两条曲线都在低位徘徊训练集准确率本身就不高。遇到过拟合优先操作是加 Dropout、加 L2 正则、减模型容量、加数据增强、开早停顺序不能反。遇到欠拟合则应该加模型容量、加训练时间、检查学习率是否太低。但有一种情况经常被忽略——验证集划分不合理。如果验证集和训练集分布不一致准确率曲线会看起来非常混乱这时候再调模型也是白搭。划分数据时尽量随机打散保证类别比例一致。6.3 损失值为 NaN 的常见元凶训练日志中出现 NaN 一般就三个原因梯度爆炸、除以零、log 函数输入了 0。梯度爆炸在深层网络、学习率偏高时最容易出现尤其是 LSTM 和深层 CNN。解决方案是开启梯度裁剪或者在每一层卷积后加批归一化。除以零多出现在自定义损失函数或类似我 GCN 示例中pow(d 1e-5, -0.5)这类归一化操作里加了 epsilon 之后基本可以避免。log 输入 0 则是交叉熵损失的经典问题此时需要在预测概率上加一个极小值如1e-7。建议每次训练开始前记录初始 loss 值如果第一个 batch 的 loss 就显示 NaN那多半是模型输入或权重初始化有问题不要在数据上继续浪费时间排查如果前几个 epoch 正常后面才出现 NaN再考虑是不是学习率太大导致后期梯度爆炸。6.4 多 GPU 训练下随机种子导致的结果不可复现如果你用了多 GPU 分布式训练或者设置过全局随机种子可能会发现同一份代码每次跑出来的结果都不一样。这是因为在tf.data管道的多线程预取、GPU 卷积算子实现等因素都会引入不确定性。解决方法是设置以下三个种子并将其放在所有 import 和模型构建之前import os import random import numpy as np import tensorflow as tf os.environ[PYTHONHASHSEED] 42 random.seed(42) np.random.seed(42) tf.random.set_seed(42)同时把数据加载管道的shuffle固定seed参数并关闭 TF 的deterministic以外的非确定性算子。需要澄清的是即使做了这一切多 GPU 环境下的浮点累加顺序也可能会造成极小差异。如果你的应用需要严格可复现推荐训练完成后保存模型参数和训练日志而不是依赖运行时完全一致。7. 最后分享一点个人体会把四种网络放在同一个基准上跑完之后我最深的感触是模型选型不是越复杂越好而是越匹配数据规律越好。前馈网络参数最多却打不过轻量级的 CNN原因就在于它没有利用图像的空间结构LSTM 虽然听起来比 CNN “更先进”但在图像任务上它就是把序列先验强行套到了错误的数据上。我在实际项目中养成了一个习惯先用最简单的前馈网络或线性模型建立基线拿到一组可复现的数字然后再换复杂网络。这样你才能准确评估复杂结构的增量收益值不值得它带来的训练成本和部署难度。没有基线对比你永远不知道自己调出来的 99% 是靠模型结构本身还是靠参数堆砌。这一篇没有引入新的理论但我觉得比任何新模型都实用。网络结构这件事看再多文章都不如亲手跑一遍对比实验印象深。如果你以后面试或者写项目方案时被人问到“为什么选择这种架构”你可以直接甩出同一数据集上的多模型对比结果这可能比背一长串理论解释更有说服力。 
长河君 · 2026/10/25 6:23:00 · 阅读 1.2k 四大神经网络架构横向对比：选型实战与实验结果分析
1. 写在前面说实话写这个系列的时候我一直在想一件事很多人从第一课开始跟着学前馈神经网络会写了CNN 会调了LSTM 也能跑了但真到了自己面对一个全新数据集的时候反而不知道到底该用哪种网络。这个问题不怪大家因为单个框架学得再多如果没试过在同一个任务上把它们拉到一起对比你对网络结构的“感觉”是建立不起来的。所以这个第十五篇我换个思路不做新模型的理论推导把前十四篇里出现过的几种主流架构——前馈神经网络、卷积神经网络、LSTM 循环神经网络、图神经网络——放在同一批数据上做一次横向对比重点看它们的结构差异、适用场景、收敛速度和最终效果。一方面帮大家建立一个“选型直觉”另一方面也把理论课里容易忽略的实现细节比如参数初始化、训练回调、过拟合判断这些用实战的方式再过一遍。如果你已经掌握了 Python 和 Keras/TensorFlow 的基本用法这一篇可以直接照着代码跑。如果你刚刚看到这个系列建议先把前几篇的基础内容补一下尤其是反向传播和梯度下降那两篇不然后面的对比结论你看得会有点懵。这篇虽然不涉及复杂的数学推导但对“为什么这个网络适合这种数据”的解释需要你有一点网络结构的基本概念。2. 四种网络架构的核心差异与适用边界2.1 前馈神经网络一切的基础前馈神经网络FNN可能是我们从零开始接触的第一种结构。输入层接收特征经过一个或多个隐藏层每层做一次线性变换加激活函数最后在输出层得到结果。数据从输入到输出单向流动没有反馈连接所以叫“前馈”。它最大的特点就是“通用但直接”。任何数据只要能表示成一个固定维度的向量理论上都能塞进前馈网络里试一把。比如你手头有一份用户行为表格每行是一个用户的特征列是年龄、消费频次、最近登录时间等等这种结构化数据直接拼成向量喂进去就行不需要像图像数据那样考虑空间结构也不像文本需要考虑顺序关系。但通用的代价是结构信息会被浪费。一张 28×28 的 MNIST 手写数字图如果把它拉平成 784 维向量丢进全连接层像素之间的空间相邻关系就完全丢失了。网络需要靠大量参数自己重新学习“相邻像素灰度变化代表了边缘”这件事而这件事卷积网络天生就知道。所以前馈网络处理高维图像时往往需要非常大的隐藏层参数膨胀得厉害还容易过拟合。我个人的习惯是如果是干净的结构化表格数据先用前馈网络搭一个基线如果是图像、语音这类有局部相关性的数据直接考虑卷积或循环结构如果你不确定任务属于哪种类型先从前馈开始绝对不会错因为它的下限不低调参也最直观。2.2 CNN 卷积神经网络局部感知与权值共享CNN 的核心贡献就是把“局部相关性”这个概念固化进了网络结构。每个卷积核只在一个小窗口内做加权求和然后再滑到下一个位置。这个操作带来两个直接收益第一是参数数量大幅下降。一个 3×3 的卷积核只有 9 个权重加 1 个偏置无论输入是 128×128 还是 512×512卷积层的参数量只取决于核的个数和尺寸而不是输入尺寸。对比一下一个输入 784 维、隐藏层 512 个神经元的前馈层光权重就有四十万个这个量级差距非常鲜明。第二是平移等变性。同一个数字在图片的左上角还是右下角卷积核捕捉到的局部特征本质相同这让模型对位置变化不那么敏感。再加上池化层对局部区域的降采样进一步增强了鲁棒性同时压缩了特征图尺寸控制后续计算量。不过 CNN 也有自己的盲区——它假设数据存在局部空间关系但这个假设不总是成立。交易记录、社交关系这类数据就没有天然的二维网格结构强行把它们组织成伪图像往往得不偿失。此外CNN 的训练比前馈网络敏感得多学习率、卷积核数量、池化策略都非常影响最终效果。新手最容易踩的坑就是堆很多层卷积但不用批归一化训练到一半 loss 突然发散。2.3 LSTM 循环神经网络记忆与门控LSTM 解决的核心问题是序列数据里的长距离依赖。它的结构里有一个隐状态向量像一条传送带一样贯穿每个时间步同时由遗忘门、输入门、输出门三个门控单元共同决定信息的保留、写入和输出。这套机制让网络有能力记住几十步之前的关键特征。但要注意LSTM 并不是为了图像分类设计的。虽然我在后面的实验里会把 MNIST 图像当成像素序列输入 LSTM但那是为了演示“任何数据都可以硬编码成序列喂进循环网络”而不是推荐这种用法。事实上LSTM 处理图像的效果通常不如 CNN因为它没有利用像素的空间局部性每个时刻只看到一个像素相邻关系需要靠隐状态慢慢传递效率很低。真正适合 LSTM 的场景是时间序列、自然语言、音频片段这类有先后顺序的数据。如果你在做用电量预测、天气预测或舆情分析LSTM 及其变体是很值得考虑的选择。但这类任务通常要特别注意数据的时间窗口划分和状态重置问题处理不好会比模型结构本身更容易翻车。2.4 图神经网络 GNN非欧氏空间的另类前馈、CNN、LSTM 都有一个共同点它们处理的数据都有规则的结构要么是固定长度的向量要么是规则的网格要么是线性序列。但现实世界还有一种非常常见的数据形式完全没有这些约束——图。社交网络、分子结构、交通路网都是典型的图数据。节点数量不固定节点的邻居数量也不固定这导致 CNN 的卷积操作没法直接搬到图上。GNN 的思路是定义一个“图卷积”操作让每个节点聚合邻居节点的特征再经过变换和激活逐层迭代更新节点表示。这种机制叫做消息传递你可以把它理解成每个节点先听一圈邻居的意见然后结合自己的信息更新自己的判断然后再跟下一层的邻居交流。GNN 在节点分类、链接预测、图分类等任务上表现优秀但训练难度也比前面三种网络更大因为图结构的复杂性和规模变化会让 batchnorm 等常规技巧失效训练的稳定性很大程度上依赖邻接矩阵的归一化方式和初始特征的质量。我在后面的示例中会给出一个最简单的 GCN 层实现让大家看看图卷积和普通卷积的本质区别在哪里。3. 实验设计与数据准备3.1 为什么要做多模型横向对比单一模型学得再好不放在同一基准上比较很难形成对结构差异的直观认知。这就像只看参数表买车永远不知道那台发动机实际开起来是什么脾气。把四种网络放在同一个数据集上跑我们能观察到的信息非常多谁收敛快、谁参数多、谁对预处理更敏感、谁更容易过拟合。这次实验我选择 MNIST 手写数字识别作为主赛道原因有三。第一数据集足够简单平均模型都能达到比较高准确率这样对比重点可以从“能不能跑通”转移到“谁的收敛曲线更漂亮”第二MNIST 是标准的 28×28 单通道图像既可以直接拉平给前馈网络也可以用二维卷积处理还能按像素序列喂给 LSTM一种数据三种用法非常方便第三因为任务简单训练时间可控迭代实验成本低特别适合做参数敏感性的探索。需要注意的是对比实验要控制变量。我统一使用相同的随机种子初始化统一使用 Adam 优化器初始学习率都设为 0.001统一使用交叉熵损失函数作为分类目标epoch 都设定为 20 轮。这样实验结果之间的差异基本都可以归因于网络结构本身而不是训练策略的不同。3.2 MNIST 数据集的加载与预处理MNIST 在 TensorFlow/Keras 里可以直接通过keras.datasets.mnist.load_data()获取。下载完成后会返回训练集和测试集图像数组的形状是(样本数, 28, 28)取值范围 0 到 255。预处理分三步归一化、调整形状、one-hot 标签。归一化直接除以 255 就可以让像素值落在 0 到 1 之间然后根据模型类型变换输入形状前馈网络需要(784,)CNN 需要(28, 28, 1)LSTM 需要(28, 28)标签用keras.utils.to_categorical转成 10 分类 one-hot 向量。代码如下import tensorflow as tf from tensorflow import keras import numpy as np (x_train, y_train), (x_test, y_test) keras.datasets.mnist.load_data() x_train x_train.astype(float32) / 255.0 x_test x_test.astype(float32) / 255.0 # 各模型需要的形状提前准备好 x_train_flat x_train.reshape(-1, 784) x_test_flat x_test.reshape(-1, 784) x_train_cnn x_train.reshape(-1, 28, 28, 1) x_test_cnn x_test.reshape(-1, 28, 28, 1) x_train_seq x_train.reshape(-1, 28, 28) # 每个时间步一行像素 x_test_seq x_test.reshape(-1, 28, 28) y_train keras.utils.to_categorical(y_train, 10) y_test keras.utils.to_categorical(y_test, 10)关于数据顺序MNIST 的手写数字在图像中位置基本居中边缘区域信息量少所以没有做额外的裁剪或者平移。如果换更复杂的图像数据集建议先看一眼样本可视化确认数据分布之后再决定是否需要数据增强。4. 模型实现与训练代码详解4.1 前馈网络的三层经典结构前馈网络的实现最简单。输入层用Flatten把 28×28 的图像拉平成 784 维向量下面接两个全连接层中间加 ReLU 激活最后接 softmax 输出层。中间层的神经元数量我选了 512这个值不算大但在这个数据量下已经完全够用再往上加神经元只会增加过拟合风险而不会获得实质收益。from tensorflow.keras import layers, models def build_fnn(): model models.Sequential([ layers.Flatten(input_shape(28, 28)), layers.Dense(512, activationrelu), layers.Dense(256, activationrelu), layers.Dense(10, activationsoftmax) ]) return model一个小贴士第一个隐层的神经元数量有一个经验起点大约是输入维度的一半到一倍之间。对 784 维输入来说512 或 256 都比较常见。如果太激进一步到位设置成 2048两层之间的参数量会接近两百万在小数据集上不仅训练慢而且极容易把训练准确率顶到 100%、验证集却跟不上。4.2 CNN 的两层卷积加池化结构CNN 的结构我用了两个卷积层尺寸分别是 32 和 64 个 3×3 卷积核中间穿插最大池化将特征图尺寸减半。最后接一个全局平均池化代替展平操作因为它在参数量和过拟合控制上往往比全连接层更友好。完整代码如下from tensorflow.keras import layers, models def build_cnn(): model models.Sequential([ layers.Input(shape(28, 28, 1)), layers.Conv2D(32, (3, 3), activationrelu, paddingsame), layers.MaxPooling2D((2, 2)), layers.Conv2D(64, (3, 3), activationrelu, paddingsame), layers.MaxPooling2D((2, 2)), layers.GlobalAveragePooling2D(), layers.Dense(10, activationsoftmax) ]) return model重点关注的是paddingsame这个参数。如果不加 padding3×3 的卷积在 28×28 输入上会把特征图缩小成 26×26两次卷积加两次池化之后到全局池化之前的空间尺寸会变得很复杂很容易在某些数据集上算错维度。加 padding 可以保证卷积不改变空间尺寸这样特征图经过两次池化后从 28→14→7后续计算过程也更好推导。CNN 的参数量大多集中在最后一个全连接层。这里我用全局平均池化把 7×7×64 的特征图直接压缩成 64 维向量再接到 10 分类输出层参数数量就非常小了。这个设计对 MNIST 这种简单任务很管用但在大尺寸复杂图像上最后一层的表达能力可能会偏弱那时候再考虑加一个轻量全连接头。4.3 LSTM把图像当序列读用 LSTM 跑 MNIST 的逻辑是把每一张图切分成 28 行每行 28 个像素作为一个时间步的输入。因此输入形状是(batch_size, 28, 28)LSTM 层会依次读入 28 个时间步的像素向量最后输出最后一个时间步的隐状态。代码很短from tensorflow.keras import layers, models def build_lstm_model(): model models.Sequential([ layers.Input(shape(28, 28)), layers.LSTM(64), layers.Dense(10, activationsoftmax) ]) return modelLSTM 层的64是隐状态的维度。MNIST 每个时间步只有 28 个像素信息量不大64 维的隐状态已经足够记忆关键信息。如果你把隐状态调到 256参数量会显著上升但准确率不一定有同比例提升。需要提醒的是LSTM 在 CPU 上跑得比较慢因为循环结构无法像卷积那样完全并行。如果你用的是 GPU 设备TensorFlow 会自动优化速度差别会小一些。训练 LSTM 时还应当注意梯度裁剪clipnorm 或 clipvalue防止长序列中梯度累积导致爆炸经验上把号设成 1.0 是比较稳妥的起点。4.4 一个简单 GCN 的代码演示GNN 在 Keras 里没有像 Conv2D 那么简单好用的官方层所以我想用一个手写的单层图卷积GCN来演示核心思想。我们不再使用 MNIST而是构建一个最简单的小规模社交关系图每个节点有 3 维特征目标是做二分类。这里要引入邻接矩阵和度矩阵的概念import numpy as np import tensorflow as tf from tensorflow.keras import layers class GCNLayer(layers.Layer): def __init__(self, out_dim, **kwargs): super().__init__(**kwargs) self.out_dim out_dim def build(self, input_shape): self.kernel self.add_weight( namekernel, shape(input_shape[-1], self.out_dim), initializerglorot_uniform, trainableTrue ) self.bias self.add_weight( namebias, shape(self.out_dim,), initializerzeros, trainableTrue ) def call(self, inputs): x, adj inputs # 对称归一化邻接矩阵 D^{-1/2} A D^{-1/2} d tf.reduce_sum(adj, axis-1) d_inv_sqrt tf.pow(d 1e-5, -0.5) d_inv_sqrt tf.linalg.diag(d_inv_sqrt) norm_adj tf.matmul(tf.matmul(d_inv_sqrt, adj), d_inv_sqrt) # 消息聚合 h tf.matmul(norm_adj, x) out tf.matmul(h, self.kernel) self.bias return out这里每一步的含义是先计算每个节点的度也就是它在邻接矩阵中有多少个邻居度取负 0.5 次方用于归一化避免高度节点和低度节点的特征尺度差异过大然后把归一化后的邻接矩阵与节点特征相乘这个操作相当于把邻居的特征加权汇总到自己身上最后再做一次线性变换加偏置。你对比一下普通全连接层的公式y Wx b会发现 GCN 只是把x替换成了聚合后的邻居信息Ãx。在真实任务里你还需要准备一个稀疏邻接矩阵存储因为完整稠密矩阵的规模是节点数的平方几千节点的图可能就会占用几百 MB 内存。但对于演示数据稠密矩阵完全够用。这个例子的重点不在于拿到多高的准确率而在于理解“节点更新自己的表示时是如何使用邻居信息的”。4.5 训练回调与训练日志回归主赛道。三种 MNIST 模型我都采用统一的训练配置但额外加了两个训练回调EarlyStopping和ReduceLROnPlateau。前者监控验证集准确率连续三轮不提升就提前终止训练后者在验证集准确率进入平台期时把学习率下降到原来的 0.5 倍帮助损失函数越过局部平坦区域。from tensorflow.keras.callbacks import EarlyStopping, ReduceLROnPlateau callbacks [ EarlyStopping(monitorval_accuracy, patience5, restore_best_weightsTrue), ReduceLROnPlateau(monitorval_accuracy, factor0.5, patience2, min_lr1e-6) ] def compile_and_fit(model, x_tr, y_tr, x_va, y_va, epochs20): model.compile( optimizertf.keras.optimizers.Adam(learning_rate0.001), losscategorical_crossentropy, metrics[accuracy] ) history model.fit( x_tr, y_tr, validation_data(x_va, y_va), epochsepochs, batch_size64, callbackscallbacks, verbose2 ) return historyrestore_best_weightsTrue是我强烈建议每个人使用的参数。它会在早停触发时自动恢复验证集指标最好的那组权重而不是返回最后一轮可能已经过拟合的模型。这个细节很多人忽略导致早停之后测试集成绩反而变差其实不是早停的锅是权重没回滚到最佳点。5. 实验结果对比与解读5.1 收敛速度CNN 最快LSTM 最磨人在我的机器上单张 RTX 3060CPU 为 i7-12700前馈网络和 CNN 在 20 轮内都收敛良好其中 CNN 在第 3 轮左右验证准确率已经超过 98%前馈网络在第 6 轮左右达到 97% 以上。LSTM 明显慢一个档次前 5 轮准确率一直徘徊在 90% 上下到第 12 轮之后才稳定在 97% 以上。这与直觉完全一致LSTM 的循环结构在每一时间步都要更新隐状态学习路径更长信息传递效率天然低于卷积的并行局部感知。这个实验结论对日常选型有直接启发如果任务原本就不需要时序建模用 LSTM 就是给自己找麻烦。很多人觉得“LSTM 比全连接高级”但在图像任务上这种优越感完全不存在。5.2 参数量与训练时长的直接对比我用model.summary()统计了三个模型的参数总量结果如下表模型参数量平均每轮训练耗时前馈网络512-256约 54 万约 9 秒CNN32C-64C全局池化约 2.4 万约 5 秒LSTM隐状态 64约 3.5 万约 18 秒前馈网络的参数最多但参数量大不代表效果最好CNN 的参数量只有前馈的 1/20 左右准确率和收敛速度反而全面领先。这说明参数效率与结构设计密切相关。LSTM 虽然参数量也不算大但循环连接带来的逐时间步计算让它单轮耗时最长。这个结果提醒我们不能只盯着准确率还要看训练和推理成本。如果你在一个边缘设备上部署模型几十万参数和几万参数的差距直接决定了模型能不能跑得动。5.3 正确率与泛化能力差异不考虑随机波动三种模型在测试集上的最终成绩对比如下模型测试集准确率前馈网络97.8%CNN99.1%LSTM97.4%CNN 的优势非常明显前馈网络和 LSTM 则基本持平。前馈网络虽然参数多但在 MNIST 这种简单的任务上勉强也算够用LSTM 作为强行把图像当序列读的模型能拿到接近前馈的成绩已经算是结构本身的容量在兜底。从泛化能力看前馈网络在最后几轮出现了轻微过拟合迹象——训练集准确率接近 100%验证集停滞在 98% 左右。CNN 的训练验证差距一直很小因为权值共享和池化操作天然带了强大的正则效果。LSTM 反而没有明显过拟合但它的瓶颈在欠拟合因为序列化读图的方式确实浪费了图像的空间结构信息。这些数字和结论看起来平淡但如果你把它们和网络结构对应起来思考会发现选型本质上是在“模型容量”和“结构先验”之间做权衡。CNN 成功是因为它把“图像有局部结构”这一正确先验硬编码进了网络LSTM 准确率不那么出彩是因为“像素行之间是时间步关系”这个先验对图像来说是错的。6. 常见问题与排查技巧实录6.1 训练不收敛到底先调什么很多新手看到 loss 不下降就着急调学习率然后越调越乱。我的建议是先看数据的归一化和标签是否正确再看损失函数的数值是否正常最后再动优化器参数。MNIST 这种数据归一化之后非常干净但如果换成自己采集的数据比如某传感器数值范围是 0 到 10000不做归一直接喂网络activation 输出可能全部饱和梯度几乎消失怎么调学习率都没用。遇到这种情况优先做数据标准化减去均值除以标准差或者缩放到 0 到 1 之间。如果数据没问题再看标签是否 one-hot 编码正确。我曾见过有人把类别标签直接当成连续值回归来训练loss 一直在 0.8 附近跳动模型反复怀疑人生其实就是任务建模错了。最后才考虑学习率和优化器而且要用日志曲线做判断不要拍脑袋改。6.2 过拟合和欠拟合如何快速判断过拟合的经典信号是训练集准确率一路上涨验证集准确率涨到某个点后开始回落或停滞二者差距拉大。欠拟合的经典信号则是两条曲线都在低位徘徊训练集准确率本身就不高。遇到过拟合优先操作是加 Dropout、加 L2 正则、减模型容量、加数据增强、开早停顺序不能反。遇到欠拟合则应该加模型容量、加训练时间、检查学习率是否太低。但有一种情况经常被忽略——验证集划分不合理。如果验证集和训练集分布不一致准确率曲线会看起来非常混乱这时候再调模型也是白搭。划分数据时尽量随机打散保证类别比例一致。6.3 损失值为 NaN 的常见元凶训练日志中出现 NaN 一般就三个原因梯度爆炸、除以零、log 函数输入了 0。梯度爆炸在深层网络、学习率偏高时最容易出现尤其是 LSTM 和深层 CNN。解决方案是开启梯度裁剪或者在每一层卷积后加批归一化。除以零多出现在自定义损失函数或类似我 GCN 示例中pow(d 1e-5, -0.5)这类归一化操作里加了 epsilon 之后基本可以避免。log 输入 0 则是交叉熵损失的经典问题此时需要在预测概率上加一个极小值如1e-7。建议每次训练开始前记录初始 loss 值如果第一个 batch 的 loss 就显示 NaN那多半是模型输入或权重初始化有问题不要在数据上继续浪费时间排查如果前几个 epoch 正常后面才出现 NaN再考虑是不是学习率太大导致后期梯度爆炸。6.4 多 GPU 训练下随机种子导致的结果不可复现如果你用了多 GPU 分布式训练或者设置过全局随机种子可能会发现同一份代码每次跑出来的结果都不一样。这是因为在tf.data管道的多线程预取、GPU 卷积算子实现等因素都会引入不确定性。解决方法是设置以下三个种子并将其放在所有 import 和模型构建之前import os import random import numpy as np import tensorflow as tf os.environ[PYTHONHASHSEED] 42 random.seed(42) np.random.seed(42) tf.random.set_seed(42)同时把数据加载管道的shuffle固定seed参数并关闭 TF 的deterministic以外的非确定性算子。需要澄清的是即使做了这一切多 GPU 环境下的浮点累加顺序也可能会造成极小差异。如果你的应用需要严格可复现推荐训练完成后保存模型参数和训练日志而不是依赖运行时完全一致。7. 最后分享一点个人体会把四种网络放在同一个基准上跑完之后我最深的感触是模型选型不是越复杂越好而是越匹配数据规律越好。前馈网络参数最多却打不过轻量级的 CNN原因就在于它没有利用图像的空间结构LSTM 虽然听起来比 CNN “更先进”但在图像任务上它就是把序列先验强行套到了错误的数据上。我在实际项目中养成了一个习惯先用最简单的前馈网络或线性模型建立基线拿到一组可复现的数字然后再换复杂网络。这样你才能准确评估复杂结构的增量收益值不值得它带来的训练成本和部署难度。没有基线对比你永远不知道自己调出来的 99% 是靠模型结构本身还是靠参数堆砌。这一篇没有引入新的理论但我觉得比任何新模型都实用。网络结构这件事看再多文章都不如亲手跑一遍对比实验印象深。如果你以后面试或者写项目方案时被人问到“为什么选择这种架构”你可以直接甩出同一数据集上的多模型对比结果这可能比背一长串理论解释更有说服力。