论文题目A bearing fault diagnosis method with an improved residual Unet diffusion model under extreme data imbalance极端数据不平衡下基于改进残差 U-Net 扩散模型的轴承故障诊断方法期刊Measurement Science and Technology2024摘要滚动轴承是旋转机械的重要组成部分对保障设备稳定运行具有关键作用。近年来基于深度学习DL的方法已能够准确诊断轴承故障。然而在实际应用中相比大量健康状态数据故障数据十分有限由此造成的严重数据不平衡给深度学习模型的有效训练带来挑战并导致诊断准确率下降。为解决极端数据不平衡问题本文提出一种基于数据生成策略的改进残差 U-Net 扩散模型IResUnet-DM轴承故障诊断方法。首先构建名为改进残差 U-Net 的深度特征提取网络通过一维残差块和自注意力块有效增强 U-Net 对振动信号信息的学习能力。进一步构建 IResUnet-DM基于概率模型在极端数据不平衡条件下生成振动信号。通过优化生成数据分布负对数似然的变分上界使生成数据的分布接近真实数据分布。最后利用宽深度卷积神经网络和一维 ResNet 分类网络进行故障识别以验证 IResUnet-DM 的有效性和泛化能力。在两个轴承数据集、不同不平衡比例下的实验结果表明该方法能够有效提高极端数据不平衡条件下的故障诊断准确率并优于对比方法。一、研究背景与核心问题现实中的轴承数据极不均衡健康状态容易采集真实故障却很少。分类网络若直接用大量正常样本和少量故障样本训练容易偏向多数类。本文的重点不是再造分类器而是如何利用极少的故障信号生成有效训练样本。SMOTE 通过少数类样本插值扩增数据难以充分覆盖复杂分布DCGAN、WGAN-GP 虽能生成复杂样本却依赖生成器与判别器对抗可能出现训练不稳定、模式坍塌等问题。作者转而使用扩散模型DM通过学习不同噪声水平下的去噪过程来生成故障波形。这里还存在第二个问题普通 U-Net 多用于二维图像直接照搬并不适合一维时域振动信号。作者的改动便落在两个层面用改进的一维残差 U-Net 提高去噪建模能力用扩散生成的数据平衡故障类别最终交给独立分类器完成诊断。二、整体框架先生成再诊断论文 Figure 5基于 IResUnet-DM 的轴承故障诊断完整流程方法流程为“采集与归一化 → 构建不平衡训练集 → 分类别训练扩散模型 → 生成故障样本并平衡训练集 → 训练分类器 → 真实测试集诊断”。IResUnet-DM 负责生成不直接预测故障类别分类任务交给 WDCNN 或 1DResNet。作者将原始振动信号切分为长度 1024 的样本归一化至−11训练集保留 400 个正常样本单个故障类仅保留 20、10 或 4 个真实样本对应 20:1、40:1 和 100:1。之后逐故障类别生成样本补足至与正常类等量测试阶段仅使用真实数据。论文 Figure 4IResUnet-DM 的前向加噪与反向生成过程Figure 4 的核心是两个反向过程训练时向真实信号加噪生成时从高斯噪声逐步去噪。生成器与分类器相互独立因此可通过更换分类器检验合成数据的实际价值。三、扩散模型如何从噪声生成振动信号论文 Figure 1扩散模型的前向扩散与反向去噪示意3.1 前向扩散把真实振动信号变成噪声设真实振动信号为s0s_0s0扩散步为ttt。令γt1−βt\gamma_t1-\beta_tγt1−βtγˉt∏i1tγi\bar\gamma_t\prod_{i1}^{t}\gamma_iγˉt∏i1tγi则任意时间步的带噪样本可直接表示为stγˉt s01−γˉt ϵ,ϵ∼N(0,I) s_t\sqrt{\bar\gamma_t}\,s_0\sqrt{1-\bar\gamma_t}\,\epsilon,\qquad \epsilon\sim\mathcal N(0,I)stγˉts01−γˉtϵ,ϵ∼N(0,I)其中βt\beta_tβt控制噪声强度sts_tst是带噪信号。随着扩散推进信号最终趋于高斯噪声。论文采用 T 1000βt\beta_tβt从 0.0001 线性增至 0.02这一机制来自标准扩散模型。3.2 训练目标让网络预测加入的噪声扩散模型的反向条件分布无法直接获知作者使用 IResUnet 来估计噪声ϵθ(st,t)\epsilon_\theta(s_t,t)ϵθ(st,t)。从变分上界推导到实际训练时采用简化的均方误差目标L(θ)Es0,ϵ,t [∥ϵ−ϵθ (γˉts01−γˉtϵ,t)∥2] \mathcal L(\theta)\mathbb E_{s_0,\epsilon,t}\!\left[\left\|\epsilon-\epsilon_\theta\!\left(\sqrt{\bar\gamma_t}s_0\sqrt{1-\bar\gamma_t}\epsilon,t\right)\right\|^2\right]L(θ)Es0,ϵ,t[ϵ−ϵθ(γˉts01−γˉtϵ,t)2]IResUnet 接收带噪样本sts_tst和时间步ttt预测加入的高斯噪声利用均方误差训练。噪声预测越准确反向采样越可能恢复出具有故障特征的波形。生成时从s~T∼N(0,I)\tilde s_T\sim\mathcal N(0,I)s~T∼N(0,I)开始逐步去噪。该方法不依赖 GAN 式判别器但不代表生成计算成本更低。四、IResUnet为什么要改造 U-Net论文 Figure 3一维残差 U-Net 的编码器、瓶颈层、解码器及时间步嵌入结构4.1 一维残差块面向振动序列提取局部特征IResUnet 沿用 U-Net 的编码—解码结构Down Unit 压缩特征Middle Unit 学习深层特征Up Unit 上采样并拼接对应编码层特征。所有运算面向一维时域振动序列主干由 1DRes Block 构成。每个 1DRes Block 由两个卷积核为 3 的 Conv1d、Group Normalization、SiLU 和残差连接组成输入通过 1×1 卷积调整通道后参与相加。这样既提取局部振动特征也缓解深层网络的梯度问题编码端通道数依次为 96、192、384。4.2 自注意力让关键位置相互关联论文 Figure 2基于 Q、K、V 的自注意力块作者在最深层两个残差块之间引入自注意力SA弥补局部卷积捕捉远距离时间关联的不足。通过 1×1 卷积得到 Q、K、V计算softmax(QK⊤/dk)\operatorname{softmax}(QK^\top/\sqrt{d_k})softmax(QK⊤/dk)汇聚关键位置特征再经卷积与残差连接输出。4.3 扩散时间步嵌入告诉网络当前噪声有多强不同扩散步的噪声强度不同网络必须同时感知信号sts_tst与时间步ttt。作者用 96 维正余弦向量编码时间步经过全连接层后注入每个 1DRes Block前两层共享参数并映射至 384 维末层按残差块调整通道。论文 Table 1IResUnet、WDCNN 与 1DResNet 的网络结构Table 1 中三种网络分工明确IResUnet 预测噪声WDCNN 是较简单的分类基线1DResNet 用来检验生成数据对强分类器是否同样有效。生成模型使用 AdamW、学习率 0.0005、40 000 个 epoch分类器使用 AdamW、学习率 0.001、100 个 epoch、batch size 32。五、实验结果生成质量与故障诊断是否同时提升5.1 两组数据集与极端不平衡设置论文 Table 2CWRU 数据集的故障类型、样本长度与训练测试规模论文 Table 3CWRU 数据集在 20:1、40:1、100:1 下的样本数量Case A 使用 CWRU 轴承数据集正常状态加滚动体、内圈、外圈三类故障每种故障包含 0.007、0.014、0.021 英寸三种损伤尺寸共 10 类。采样频率 12 kHz0 hp 负载单类原有训练样本 400 个、测试样本 100 个100:1 时单个故障类仅保留4 个训练样本。论文 Figure 13离心泵轴承故障实验台论文 Table 5离心泵数据集在不同不平衡比例下的样本数量Case B 使用离心泵轴承实验台数据包含正常、滚动体、内圈、外圈 4 类。转速 1485 rpm采样频率 32 768 Hz样本长度 1024每段仅覆盖接近一圈的转动故障冲击并不明显可检验方法对不同采集条件的适应性。5.2 Case A生成信号不仅要像还要有多样性论文 Figure 6CWRU 真实与生成振动信号的时域波形和傅里叶频谱作者先在 40:1 条件下评估 CWRU 生成质量。Figure 6 表明生成样本保留了真实信号的主要时频特征为避免仅凭波形观感判断作者又使用余弦相似度CS和最大均值差异MMD量化生成效果。论文 Figure 7不同方法生成样本内部的时域余弦相似度论文 Figure 8生成与真实样本之间的频谱余弦相似度论文 Figure 9生成样本与真实测试样本的 MMD 对比三种指标含义不同生成样本内部 CS 越低多样性越强生成与真实样本的频谱 CS 越高频域越相似MMD 越低整体分布越接近。IResUnet-DM 在各故障类取得最低的内部 CS 和 MMD频谱 CS 由 SMOTE 最高本文方法次之。因此不能只凭频谱相似度断言生成质量插值样本可能很相似却缺少变化。5.3 Case A分类性能与特征空间证据论文 Figure 1040:1 条件下两种分类器的平均诊断准确率论文 Table 4CWRU 在不同不平衡比例下的十次实验平均诊断准确率Table 4 显示在 CWRU100:1下WDCNN 不增强时仅为 51.64%WGAN-GP 增强后为 62.79%IResUnet-DM 达到94.40%1DResNet 从不增强的 90.51% 提至97.82%。在 40:1 时两种分类器分别达到 97.50%、99.94%20:1 时为 99.10%、99.99%。极少样本和较弱分类器下增益尤其明显。论文 Figure 11WGAN-GP 与 IResUnet-DM 的 CWRU 诊断混淆矩阵论文 Figure 12不同增强方法下 CWRU 训练与测试特征的 t-SNE 分布混淆矩阵显示IResUnet-DM 在一些容易混淆的故障类别上降低了误判t-SNE 则显示其合成训练样本与真实测试样本在特征空间中更容易形成同类聚集、异类分离。需要注意t-SNE 是定性展示真正的性能依据仍应以真实测试集上的准确率为主。5.6 与已发表方法的比较以及证据边界论文 Table 11CWRU 上与 D2GAN、CMDGAN、2S-GAN 的结果对比Table 11 汇总与 D2GAN、CMDGAN、2S-GAN 的已发表结果。本文在 CWRU 20:1、40:1 下使用 1DResNet 达到 99.99%、99.94%高于表中其他报告值并提供了 100:1 结果。不过各研究的分类网络不完全一致跨论文比较不属于严格控制变量的实验。论文未单独报告去掉 1DRes Block、SA 或时间步嵌入的消融因此不能量化各模块的独立贡献。它验证的是完整生成增强方法的综合效果也未系统比较生成速度或部署成本。六、总结与思考如果把这篇论文压缩成一句话先用适配一维振动序列的残差 U-Net 扩散模型学习少数类故障分布再生成足够多、足够多样的故障信号使普通诊断网络也能在极端不平衡条件下学习有效的分类边界。值得借鉴的是证据链先核对生成波形和频谱再用 CS、MMD 比较多样性及分布一致性最终在真实测试集、不同不平衡比例、不同分类器和另一套实验台数据上检验诊断收益。离心泵 100:1 下 WDCNN 从 25.39% 提升到 98.92%尤其直观。从方法设定看仍值得研究仅用每类 4 个样本时如何检测模型记忆与过拟合T 1000 的采样成本有多高跨转速、跨负载、跨设备能否保持效果。本文验证了不同数据集上的方法适用性但并未直接完成严格的跨工况迁移诊断实验。总的来说IResUnet-DM 提供了一条清晰思路在少数类数据极稀缺时不应只盯着分类器结构还可以从故障数据分布建模与高质量样本生成入手改善后续诊断网络真正能学到的内容。 
长河君 · 2026/11/1 2:00:15 · 阅读 1.2k （论文速读）IResUnet-DM：用改进残差 U-Net 扩散模型解决轴承极端数据不平衡诊断
论文题目A bearing fault diagnosis method with an improved residual Unet diffusion model under extreme data imbalance极端数据不平衡下基于改进残差 U-Net 扩散模型的轴承故障诊断方法期刊Measurement Science and Technology2024摘要滚动轴承是旋转机械的重要组成部分对保障设备稳定运行具有关键作用。近年来基于深度学习DL的方法已能够准确诊断轴承故障。然而在实际应用中相比大量健康状态数据故障数据十分有限由此造成的严重数据不平衡给深度学习模型的有效训练带来挑战并导致诊断准确率下降。为解决极端数据不平衡问题本文提出一种基于数据生成策略的改进残差 U-Net 扩散模型IResUnet-DM轴承故障诊断方法。首先构建名为改进残差 U-Net 的深度特征提取网络通过一维残差块和自注意力块有效增强 U-Net 对振动信号信息的学习能力。进一步构建 IResUnet-DM基于概率模型在极端数据不平衡条件下生成振动信号。通过优化生成数据分布负对数似然的变分上界使生成数据的分布接近真实数据分布。最后利用宽深度卷积神经网络和一维 ResNet 分类网络进行故障识别以验证 IResUnet-DM 的有效性和泛化能力。在两个轴承数据集、不同不平衡比例下的实验结果表明该方法能够有效提高极端数据不平衡条件下的故障诊断准确率并优于对比方法。一、研究背景与核心问题现实中的轴承数据极不均衡健康状态容易采集真实故障却很少。分类网络若直接用大量正常样本和少量故障样本训练容易偏向多数类。本文的重点不是再造分类器而是如何利用极少的故障信号生成有效训练样本。SMOTE 通过少数类样本插值扩增数据难以充分覆盖复杂分布DCGAN、WGAN-GP 虽能生成复杂样本却依赖生成器与判别器对抗可能出现训练不稳定、模式坍塌等问题。作者转而使用扩散模型DM通过学习不同噪声水平下的去噪过程来生成故障波形。这里还存在第二个问题普通 U-Net 多用于二维图像直接照搬并不适合一维时域振动信号。作者的改动便落在两个层面用改进的一维残差 U-Net 提高去噪建模能力用扩散生成的数据平衡故障类别最终交给独立分类器完成诊断。二、整体框架先生成再诊断论文 Figure 5基于 IResUnet-DM 的轴承故障诊断完整流程方法流程为“采集与归一化 → 构建不平衡训练集 → 分类别训练扩散模型 → 生成故障样本并平衡训练集 → 训练分类器 → 真实测试集诊断”。IResUnet-DM 负责生成不直接预测故障类别分类任务交给 WDCNN 或 1DResNet。作者将原始振动信号切分为长度 1024 的样本归一化至−11训练集保留 400 个正常样本单个故障类仅保留 20、10 或 4 个真实样本对应 20:1、40:1 和 100:1。之后逐故障类别生成样本补足至与正常类等量测试阶段仅使用真实数据。论文 Figure 4IResUnet-DM 的前向加噪与反向生成过程Figure 4 的核心是两个反向过程训练时向真实信号加噪生成时从高斯噪声逐步去噪。生成器与分类器相互独立因此可通过更换分类器检验合成数据的实际价值。三、扩散模型如何从噪声生成振动信号论文 Figure 1扩散模型的前向扩散与反向去噪示意3.1 前向扩散把真实振动信号变成噪声设真实振动信号为s0s_0s0扩散步为ttt。令γt1−βt\gamma_t1-\beta_tγt1−βtγˉt∏i1tγi\bar\gamma_t\prod_{i1}^{t}\gamma_iγˉt∏i1tγi则任意时间步的带噪样本可直接表示为stγˉt s01−γˉt ϵ,ϵ∼N(0,I) s_t\sqrt{\bar\gamma_t}\,s_0\sqrt{1-\bar\gamma_t}\,\epsilon,\qquad \epsilon\sim\mathcal N(0,I)stγˉts01−γˉtϵ,ϵ∼N(0,I)其中βt\beta_tβt控制噪声强度sts_tst是带噪信号。随着扩散推进信号最终趋于高斯噪声。论文采用 T 1000βt\beta_tβt从 0.0001 线性增至 0.02这一机制来自标准扩散模型。3.2 训练目标让网络预测加入的噪声扩散模型的反向条件分布无法直接获知作者使用 IResUnet 来估计噪声ϵθ(st,t)\epsilon_\theta(s_t,t)ϵθ(st,t)。从变分上界推导到实际训练时采用简化的均方误差目标L(θ)Es0,ϵ,t [∥ϵ−ϵθ (γˉts01−γˉtϵ,t)∥2] \mathcal L(\theta)\mathbb E_{s_0,\epsilon,t}\!\left[\left\|\epsilon-\epsilon_\theta\!\left(\sqrt{\bar\gamma_t}s_0\sqrt{1-\bar\gamma_t}\epsilon,t\right)\right\|^2\right]L(θ)Es0,ϵ,t[ϵ−ϵθ(γˉts01−γˉtϵ,t)2]IResUnet 接收带噪样本sts_tst和时间步ttt预测加入的高斯噪声利用均方误差训练。噪声预测越准确反向采样越可能恢复出具有故障特征的波形。生成时从s~T∼N(0,I)\tilde s_T\sim\mathcal N(0,I)s~T∼N(0,I)开始逐步去噪。该方法不依赖 GAN 式判别器但不代表生成计算成本更低。四、IResUnet为什么要改造 U-Net论文 Figure 3一维残差 U-Net 的编码器、瓶颈层、解码器及时间步嵌入结构4.1 一维残差块面向振动序列提取局部特征IResUnet 沿用 U-Net 的编码—解码结构Down Unit 压缩特征Middle Unit 学习深层特征Up Unit 上采样并拼接对应编码层特征。所有运算面向一维时域振动序列主干由 1DRes Block 构成。每个 1DRes Block 由两个卷积核为 3 的 Conv1d、Group Normalization、SiLU 和残差连接组成输入通过 1×1 卷积调整通道后参与相加。这样既提取局部振动特征也缓解深层网络的梯度问题编码端通道数依次为 96、192、384。4.2 自注意力让关键位置相互关联论文 Figure 2基于 Q、K、V 的自注意力块作者在最深层两个残差块之间引入自注意力SA弥补局部卷积捕捉远距离时间关联的不足。通过 1×1 卷积得到 Q、K、V计算softmax(QK⊤/dk)\operatorname{softmax}(QK^\top/\sqrt{d_k})softmax(QK⊤/dk)汇聚关键位置特征再经卷积与残差连接输出。4.3 扩散时间步嵌入告诉网络当前噪声有多强不同扩散步的噪声强度不同网络必须同时感知信号sts_tst与时间步ttt。作者用 96 维正余弦向量编码时间步经过全连接层后注入每个 1DRes Block前两层共享参数并映射至 384 维末层按残差块调整通道。论文 Table 1IResUnet、WDCNN 与 1DResNet 的网络结构Table 1 中三种网络分工明确IResUnet 预测噪声WDCNN 是较简单的分类基线1DResNet 用来检验生成数据对强分类器是否同样有效。生成模型使用 AdamW、学习率 0.0005、40 000 个 epoch分类器使用 AdamW、学习率 0.001、100 个 epoch、batch size 32。五、实验结果生成质量与故障诊断是否同时提升5.1 两组数据集与极端不平衡设置论文 Table 2CWRU 数据集的故障类型、样本长度与训练测试规模论文 Table 3CWRU 数据集在 20:1、40:1、100:1 下的样本数量Case A 使用 CWRU 轴承数据集正常状态加滚动体、内圈、外圈三类故障每种故障包含 0.007、0.014、0.021 英寸三种损伤尺寸共 10 类。采样频率 12 kHz0 hp 负载单类原有训练样本 400 个、测试样本 100 个100:1 时单个故障类仅保留4 个训练样本。论文 Figure 13离心泵轴承故障实验台论文 Table 5离心泵数据集在不同不平衡比例下的样本数量Case B 使用离心泵轴承实验台数据包含正常、滚动体、内圈、外圈 4 类。转速 1485 rpm采样频率 32 768 Hz样本长度 1024每段仅覆盖接近一圈的转动故障冲击并不明显可检验方法对不同采集条件的适应性。5.2 Case A生成信号不仅要像还要有多样性论文 Figure 6CWRU 真实与生成振动信号的时域波形和傅里叶频谱作者先在 40:1 条件下评估 CWRU 生成质量。Figure 6 表明生成样本保留了真实信号的主要时频特征为避免仅凭波形观感判断作者又使用余弦相似度CS和最大均值差异MMD量化生成效果。论文 Figure 7不同方法生成样本内部的时域余弦相似度论文 Figure 8生成与真实样本之间的频谱余弦相似度论文 Figure 9生成样本与真实测试样本的 MMD 对比三种指标含义不同生成样本内部 CS 越低多样性越强生成与真实样本的频谱 CS 越高频域越相似MMD 越低整体分布越接近。IResUnet-DM 在各故障类取得最低的内部 CS 和 MMD频谱 CS 由 SMOTE 最高本文方法次之。因此不能只凭频谱相似度断言生成质量插值样本可能很相似却缺少变化。5.3 Case A分类性能与特征空间证据论文 Figure 1040:1 条件下两种分类器的平均诊断准确率论文 Table 4CWRU 在不同不平衡比例下的十次实验平均诊断准确率Table 4 显示在 CWRU100:1下WDCNN 不增强时仅为 51.64%WGAN-GP 增强后为 62.79%IResUnet-DM 达到94.40%1DResNet 从不增强的 90.51% 提至97.82%。在 40:1 时两种分类器分别达到 97.50%、99.94%20:1 时为 99.10%、99.99%。极少样本和较弱分类器下增益尤其明显。论文 Figure 11WGAN-GP 与 IResUnet-DM 的 CWRU 诊断混淆矩阵论文 Figure 12不同增强方法下 CWRU 训练与测试特征的 t-SNE 分布混淆矩阵显示IResUnet-DM 在一些容易混淆的故障类别上降低了误判t-SNE 则显示其合成训练样本与真实测试样本在特征空间中更容易形成同类聚集、异类分离。需要注意t-SNE 是定性展示真正的性能依据仍应以真实测试集上的准确率为主。5.6 与已发表方法的比较以及证据边界论文 Table 11CWRU 上与 D2GAN、CMDGAN、2S-GAN 的结果对比Table 11 汇总与 D2GAN、CMDGAN、2S-GAN 的已发表结果。本文在 CWRU 20:1、40:1 下使用 1DResNet 达到 99.99%、99.94%高于表中其他报告值并提供了 100:1 结果。不过各研究的分类网络不完全一致跨论文比较不属于严格控制变量的实验。论文未单独报告去掉 1DRes Block、SA 或时间步嵌入的消融因此不能量化各模块的独立贡献。它验证的是完整生成增强方法的综合效果也未系统比较生成速度或部署成本。六、总结与思考如果把这篇论文压缩成一句话先用适配一维振动序列的残差 U-Net 扩散模型学习少数类故障分布再生成足够多、足够多样的故障信号使普通诊断网络也能在极端不平衡条件下学习有效的分类边界。值得借鉴的是证据链先核对生成波形和频谱再用 CS、MMD 比较多样性及分布一致性最终在真实测试集、不同不平衡比例、不同分类器和另一套实验台数据上检验诊断收益。离心泵 100:1 下 WDCNN 从 25.39% 提升到 98.92%尤其直观。从方法设定看仍值得研究仅用每类 4 个样本时如何检测模型记忆与过拟合T 1000 的采样成本有多高跨转速、跨负载、跨设备能否保持效果。本文验证了不同数据集上的方法适用性但并未直接完成严格的跨工况迁移诊断实验。总的来说IResUnet-DM 提供了一条清晰思路在少数类数据极稀缺时不应只盯着分类器结构还可以从故障数据分布建模与高质量样本生成入手改善后续诊断网络真正能学到的内容。