由于在故障诊断中，不同故障模式的频率特征相较于时序特征会更明显，而噪声影响会减弱，同时可初步平滑掉一些不重要的特征，所以本文先利用短时傅里叶变换(Short-Time Fourier Transform, STFT)将时序数据转为时频图，作为所提GAN模块的输入，这样有利于生成器学习到除数据分布外的时频相关性，并保留原始数据的周期性、频率成分和时频特性。为了弥补数据较少的缺陷，本文提出了结合动态权重调整策略和学习率调整机制的KL_WGAN模型，数据经过GAN加强之后，采用少样本学习方法进行分类，得到支持集和查询集，为从支持集合查询集中提取特征，采用了基于LKA (Large Kernel Attention)的多重特征提取模块。由于我们需要测量支持集和查询集之间的相关性，本文采取了Transformer框架来处理全局信息以及相关性，采用Vu等人 [17] 所提出的局部马氏距离来处理支持集的局部特征。最后采用注意力机制构成的分类模块，将全局信息和局部信息结合来实现故障分类。本文所提模型的整体框架如 图1 所示。

在本文中，我们采用少样本学习与对抗生成训练结合的方法来尽可能弥补无法收集大量故障数据集的缺陷。由于轴承故障数据集难以大量收集，我们采用Meta Learning中的Few-shot方法，并根据一些文献研究，最终采用了已在少样本学习中成功应用的“episode训练机制”。Few-shot训练集中包含了很多类别，在训练阶段，该种机制将在训练集中随机选取C个类别，每个类别包含K个样本(共CK个数据)，

来构成一个meta-task，用作支持集(support set) $S={\left\{\left(X_i^s,Y_i^s\right)\right\}}_{i=1}^{n_s}$ (其中， $n_s=C\ast K$)的输入，同时在每类

中随机选取q个样本用于构建查询集(Query set)。

$Q={\left\{\left(X_j^q,Y_j^q\right)\right\}}_{i=1}^{n_q}$ (1)

其中， $n_q=q\ast K$。每次episode都会采样得到不同的meta-task，这种机制使得模型可以学习到不同meta-task中的共性，也能对不在支持集中的元任务进行较好地分类。少样本学习的基本思想就是学习一个相似性函数，通过比较查询集和支持集之间的相似度来判断查询集中某一样本属于支持集的哪一类别。

本文先对原始的频谱图像进行多层卷积处理(包括Conv2d、Maxpooling、LayerNorm和GELU激活函数)，其中早期层捕获高频成分，更深层次层捕获全局信息。为找到某一时间或频率上的特征，采用了不同卷积核大小的卷积操作。

对于特征提取模块，我们以大核注意(Large Kernel Attention, LKA)模块为基础，这个模块将大核卷积分解为深度卷积、扩张深度卷积以及逐点卷积，然后再将他们进行组合，用于捕获长距离关系。由于LKA属于固定配置类型的方法，而故障数据是复杂的、非线性的，需要同时处理其局部和全局信息，所以在本文中设置了不同配置的LKA，分别用于提取局部特征和全局特征，其中不同的模块卷积核和扩张率基于小卷积核、小扩张率以及大卷积核、大扩张率进行选择，最后通过残差连接来保留原数据的细节信息，获取短距离关系。为避免特征融合之后部分特征过强或者过弱，通过逐点卷积和深度卷积来进行特征融合和输出。

生成对抗网络(GAN, Generative Adversarial Network)的核心思想由Goodfellow等人 [12] 在2014年提出，主要采用生成器和判别器对数据进行对抗生成训练，通过上述的对抗优化，可以得到逼真的数据。尽管GAN在对抗生成训练中取得巨大成功，但是其训练需要生成器和判别器相对稳定，即判别器的过强生成器过弱会导致对抗训练失败，在 [14] 中作者提出了将使用Wasserstein 距离代替传统的JS散度，改善了训练不稳定性。但由于故障信号本身的多样性，WGAN也无法涵盖真实数据的多样性，所以本文引入了Kullback-Leibler (KL)散度与WGAN结合来缓解模式崩塌问题。同时引入了动态权重调整策略和学习率调整机制，所提的Dynamic-KLWGAN的模型图如 图2 所示。

A. GAN

GAN的对抗训练可以概括为极小化–极大化目标函数：

$\underset{G}{\min }\underset{D}{\max }V\left(D,G\right)={\mathbb{E}}_{x~P_r}\left[\log D\left(x\right)\right]+{\mathbb{E}}_{z~P_g}\left[\log \left(1-D\left(G\left(z\right)\right)\right)\right]$ (2)

其中， $P_r$是真实数据分布， $P_g$是生成数据分布， $D\left(x\right)$表示判别器输出真实样本的概率， $G\left(z\right)$是生成器生成的样本。

B. KL散度

本文引入KL散度作为辅助损失，与判别器损失一起优化生成器参数，KL散度是一个非对称的度量，用于衡量两个概率分布 $P_r\left(x\right)$和 $P_g\left(x\right)$之间的差异，即真实分布 $P_r\left(x\right)$相较于近似分布 $P_g\left(x\right)$的额外的信息代价，其连续形式的数学定义如下：

$D_{\text{KL}}\left(P_r\parallel P_g\right)={\displaystyle \int P_r\left(x\right)\log \frac{P_r\left(x\right)}{P_g\left(x\right)}\text{d}x}$ (3)

其中， $P_r\left(x\right)$为真实数据分布， $P_g\left(x\right)$为生成数据分布，KL散度用于指导生成器的优化，从而使 $P_g\left(x\right)$更加接近于 $P_r\left(x\right)$。受f-GAN [16] 中框架启发，我们将KL散度用于WGAN中，Wasserstein距离更注重全局分布，而KL散度对高概率区域的差异更为敏感，因此可以弥补Wasserstein距离在局部分布细节上的不足。KL部分的损失函数可以表示为：

${ℒ}_{\text{KL}}={\mathbb{E}}_{x~P_r}\left[\log P_g\left(x\right)\right]-{\mathbb{E}}_{x~P_r}\left[\log P_r\left(x\right)\right]$ (4)

其中， ${\mathbb{E}}_{x~P_r}\left[\log P_g\left(x\right)\right]$是固定常数，所以该部分的目标是最小化 $-{\mathbb{E}}_{x~P_r}\left[\log P_r\left(x\right)\right]$部分，即可最大化生成样本的概率密度。

C. Wasserstein距离

为优化GAN的目标函数，解决梯度消失等问题，采用了Wasserstein距离，它表示将一个分布中的质量“搬运”到另一个分布所需的最小代价：

$W\left(P_r,P_g\right)=\underset{\gamma \in \Pi \left(P_r,P_g\right)}{\inf }{\mathbb{E}}_{\left(x,y\right)~\gamma }\left[\Vert x-y\Vert \right]$ (5)

其中， $\Pi \left(P_r,P_g\right)$是所有可能的联合分布的集合， $P_r,P_g$分别为两个边缘概率， $\Vert x-y\Vert$表示将质量从x移动到y所需的代价。Wasserstein距离是连续的，即使真实分布和生成分布没有重叠(即分布之间的差距较大)，也可以提供有意义的梯度，从而保证生成器的有效更新。WGAN的目标函数基于Kantorovich-Rubinstein对偶性，可以通过以下形式表达：

$W\left(P_r,P_g\right)=\underset{{\Vert f\Vert }_L\le 1}{\text{sup}}{\mathbb{E}}_{x~P_r}\left[f\left(x\right)\right]-{\mathbb{E}}_{x~P_g}\left[f\left(x\right)\right]$ (6)

其中，f是一个1-Lipschitz函数。在训练过程中，判别器会被设计为一个接近1-Lipschitz的网络。由于1-Lipschitz可能引入优化问题，且权重裁剪的方法会导致梯度更新不稳定，当裁剪范围较小时，判别器可能难以充分学习到数据分布，所以本文采用梯度惩罚(Gradient Penalty, GP)来实现Lipschitz条件。判别器目标函数更新为：

${ℒ}_D={\mathbb{E}}_{x~P_g}\left[D\left(x\right)\right]-{\mathbb{E}}_{x~P_r}\left[D\left(x\right)\right]+{\lambda }_{\text{gp}}{\mathbb{E}}_{\hat{x}~P_x}\left[{\left({\Vert {\nabla }_{\hat{x}}D\left(\hat{x}\right)\Vert }_2-1\right)}^2\right]$ (7)

其中， ${\lambda }_{\text{gp}}{\mathbb{E}}_{\hat{x}~P_x}\left[{\left({\Vert {\nabla }_{\hat{x}}D\left(\hat{x}\right)\Vert }_2-1\right)}^2\right]$是梯度惩罚项，用于强制判别器的梯度范数归为1， $P_{\hat{x}}$是真实数据和生成数据之间的随机插值分布， $\hat{x}$如下所示：

$\hat{x}=ϵx_r+\left(1-ϵ\right)x_g,ϵ~\text{Uniform}\left(0,1\right)$ (8)

D. Dynamic-KLWGAN

KL-WGAN是一种结合KL散度和Wasserstein距离的生成对抗网络。传统的WGAN主要优化Wasserstein距离，这里我们为了更好的捕捉到数据分布之间的差异，更好的衡量真实分布与生成分布的差异，引用了f-GAN框架 [16] ，引入KL散度作为辅助损失，不同的是，本研究在KL-WGAN的基础上提出了动态权重调整策略和动态学习率机制，接下来详细介绍该策略和机制。

对于权重更新规则，本文根据KL散度和Wasserstein距离的变化对权重比例进行处理，KL散度权重更新公式如下所示：

$w_{\text{KL}}=\{\begin{array}{l}\min \left(w_{\text{KL}}+{\Delta }_{\text{KL}},w_{\text{KL},\text{max}}\right)\text{if}\text{KL}>{\text{KL}}_{\text{threshold}}\\ \max \left(w_{\text{KL}}-{\Delta }_{\text{KL}},w_{\text{KL},\text{min}}\right)\text{if}\text{KL}\le {\text{KL}}_{\text{threshold}}\end{array}$ (9)

其中， ${\Delta }_{\text{KL}}$为KL权重的步长，控制更新速度， $w_{\text{KL},\text{max}}$和 $w_{\text{KL},\text{min}}$为KL散度的最大最小权重， ${\text{KL}}_{\text{threshold}}$为KL散度的阈值。

Wasserstein距离权重的更新公式如下所示：

$w_{\text{W}}=\{\begin{array}{l}\min \left(w_{\text{W}}+{\Delta }_{\text{W}},w_{\text{W},\text{max}}\right)\text{if}W>W_{\text{threshold}}\\ \max \left(w_{\text{W}}-{\Delta }_{\text{W}},w_{\text{W},\text{min}}\right)\text{if}W\le W_{\text{threshold}}\end{array}$ (10)

其中， ${\Delta }_{\text{W}}$为Wasserstein距离权重的步长，控制更新速度， $w_{\text{W},\text{max}}$和 $w_{\text{W},\text{min}}$为Wasserstein距离的最大最小权重， $W_{\text{threshold}}$为Wasserstein距离的阈值。本文根据KL散度和Wasserstein距离的变化去更新权重，更新规则是当KL散度较大时，增加其权重，强化生成器对KL散度的优化能力，当KL散度较大时，减小其权重，降低对KL的约束，平衡Wasserstein距离的优化。当Wasserstein距离较大时说明生成器与判别器之间的分布差异较大，需要加强Wasserstein权重，距离较小时，降低其权重以免过拟合。

为进一步提升模型的训练效率和稳定性，我们结合动态调整策略引入了学习率(Learning Rate, LR)调整机制，将学习率的上下限设置为 $\left[{\text{lr}}_{\text{min}},{\text{lr}}_{\text{max}}\right]$，并采用Pytorch中的LambdaLR，它的核心思想是通过自定义的 ${\text{lr}}_{\text{lambda}}\left(t\right)$函数，即根据动态权重的变化比例来动态更新学习率，当权重增大时，学习率略微减少，从而减少振动，当权重减小时，学习率略微增加，从而加速收敛，提升训练速率。本研究先结合动态权重调整策略设计 ${\text{lr}}_{\text{lambda}}\left(t\right)$函数如下所示：

${\text{lr}}_{\text{lambda}}\left(t\right)=\{\begin{array}{ll}1+\alpha \hfill & \text{if}{w}_{\text{kl}}>{\theta }_{\text{kl}}\text{and}{w}_{\text{w}}>{\theta }_{\text{w}}\hfill \\ 1-\beta \hfill & \text{if}{w}_{\text{kl}}<{\theta }_{\text{kl}}\text{or}{w}_{\text{w}}<{\theta }_{\text{w}}\hfill \\ 1\hfill & \text{otherwise}\hfill \end{array}$ (11)

简化为：

${\text{lr}}_{\text{lambda}}\left(t\right)=\left(1+\delta \cdot \Delta w\right)$ (12)

其中， $\alpha$、 $\beta$和 $\delta$为调整因子， $w_{\text{kl}}$和 ${\omega }_{\text{w}}$分别为KL散度和Wasserstein距离的权重，为增强模型平衡力，设置了两个阈值， ${\theta }_{\text{kl}}$和 ${\theta }_{\text{w}}$分别为 $w_{\text{kl}}$和 ${\omega }_{\text{w}}$的阈值，通常根据经验值设置为0.5，当 $w_{\text{kl}}$和 ${\omega }_{\text{w}}$同时较大时，此时模型已经逐步学习到主要特征，可以适当增加学习率，加快收敛，当某一项权重过大时，说明模型的某一特征学习不足，需要降低学习率，从而稳定优化。实际学习率更新公式为：

${\eta }_t={\eta }_{t-1}\cdot \left(1+\delta \cdot \Delta w\right)$ (13)

其中， $\Delta w$表示权重变化比例， $\alpha$表示调整因子。从而判别器损失函数可以由上述公式更新为：

${ℒ}_D=-{\omega }_w\cdot {\mathbb{E}}_{x~P_r}\left[D\left(x\right)\right]+{\mathbb{E}}_{x~P_g}\left[D\left(x\right)\right]+{\lambda }_{\text{gp}}\cdot {ℒ}_{\text{gp}}$ (14)

其中， ${\omega }_w$是Wasserstein距离的动态权重， ${\lambda }_{\text{gp}}$是梯度惩罚项的权重， ${ℒ}_{\text{gp}}$为梯度惩罚项。生成器损失包括KL散度损失，可以由以下表示出来：

${ℒ}_G=-{\mathbb{E}}_{x~P_g}\left[D\left(x\right)\right]+{\omega }_{\text{kl}}\cdot {ℒ}_{\text{KL}}$ (15)

其中， ${\omega }_{\text{kl}}$为动态KL权重， ${ℒ}_{\text{KL}}$为生成分布于真实分布的KL散度。所以我们的总损失函数定义为：

${ℒ}_{\text{Total}}={ℒ}_D+{ℒ}_G$ (16)

这里我们首次将KL_WGAN框架用于电机故障识别领域，在这个模块训练中，我们首先初始化生成器和判别器的权重、学习率优化器和优化器。再在每个训练步计算Wasserstein距离和KL散度，接着使用上述提到的动态权重调整策略和学习率调整机制来更新权重和学习率，并计算KL散度的损失函数和Wasserstein损失函数，用于更新和优化生成器和判别器，循环训练5次，最后生成近似真实分布的生成数据，与真实数据一起作为Fewshot模型的输入，从而有效缓解故障诊断中的小样本问题，提高模型对复杂故障模式的识别能力，进而为一些工业场景提供更为准确、鲁棒的诊断解决方案。同时，动态权重策略和学习率机制增强了原始模型模型的适应性，使其更适合实际应用场景中的多样化需求。

为验证本文所提方法的有效性，采用著名的CWRU公开数据集对模型进行训练和评估：

CWRU数据集是关于轴承故障的数据集，轴承主要由内圈(Inner Race)、外圈(Outer Race)和滚动体(Rolling Elementsz)组成，这三个部分是导致故障的主要原因，本文将其按照故障类型、转速、具体故障类型进行分类，具体见 表1 ，故障类型包括内圈故障、外圈故障、滚动体故障和正常状态，转速分为1730 rmp、1750 rmp、1772 rmp、1797 rmp，具体故障类型有与该部分裂纹相关的三个小故障Ball、InnerRace、OuterRace。本文采用滑动窗口的方法对信号数据进行切片处理，采用数据集前半部分作为训练集，后半部分作为测试集，训练样本采用2048点滑动窗口机制，滑动步长是80。测试样本采用相同步长的滑动窗口集步长为序列长度。为了验证模型的有效性，本文随机选取了750个测试样本。为保证训练过程的随机性和公平性，以及增加模型的泛化能力，我们在实验中对数据进行了打乱并在测试过程中加入了噪声。

模型设置：在所提的特征提取模块，我们设置了3个LKA模块，卷积维度为64，每个模块卷积核大小和扩张率分别为(3, 3)、(5, 3)、(7, 3)，特征图通道数设置为4096。全局变换器(Global Transformer)中的编码器–解码器数量选择为N = 10。超参数alpha1和alpha2分别是局部分支和全局分支在最终输出中的比例，根据消融实验最终选择alpha1 = 0.7，alpha2 = 0.3。根据消融实验和以往经验，GAN网络采用Adam优化器，其dropout层参数设置为0.5，初始学习率为0.0002，动态学习率范围为(0.0001, 0.001)，KL散度权重 ${\omega }_{\text{kl}}$动态范围为(0.1, 0.5)，Wasserstein距离权重 ${\omega }_{\text{w}}$动态范围为(0.5, 2.0)，梯度惩罚权重 ${\lambda }_{\text{gp}}$设置为10。

本研究中，为更好地评价模型性能并与其他方法公平比较，我们采用了准确率、召回率(Recall)作为评价指标。召回率用于消融研究，它是正确预测为正样本的数量(TP)与实际正样本数量(TP + FN)的比值，在本研究中，首先通过模型的输出分数来预测查询样本的类别，再与实际标签进行比较，分别对每个类别计算召回率，最后计算得到召回率的平均值，定义如下：

$\text{Recall}=\frac{1}{C}{\displaystyle {\sum }_{c=1}^C\frac{{\text{TP}}_c}{{\text{TP}}_c+{\text{FN}}_c}}$ (17)

其中，C是类别总数，TP (True Positive，真正类)表示被正确预测为正类的样本数量。FN (False Negative，假负类)表示为实际为正类但被错误预测为负类的样本数量。

在Few-shot任务中，本文会计算每次模型测试中每个查询集样本的预测结果，对于每个批次的准确率的计算，我们根据模型输出的分数，采用最大值索引来选择预测的类别，并与实际标签进行对比，从而计算得到模型的准确率，计算公式如下：

$\text{Accuracy}=\frac{{\displaystyle {\sum }_{i=1}^N\mathbb{I}\left(\text{argmax}\left({\text{scores}}_i\right)={\text{target}}_i\right)}}{N}$ (18)

其中，N为查询样本总数， $\mathbb{I}$为指示函数，当预测的类别与真实标签一致时返回1，否则返回0。

为了训练本文提出的模型，我们的模型采用Adam优化器来优化训练，学习率按照经验设置为0.001，每十次训练减半，降至0.000001之后学习率稳定不变。本实验中模型训练epoch设置为100，GPU使用RTX 2080 Ti x2 (22GB)，CPU使用9 vCPU Intel(R) Xeon(R) Platinum 8255C CPU @ 2.50GHz。

本节展示所提模型与其他不含对抗生成网络的少样本模型的对比结果。其中度量列Eucline为欧氏距离，cov为协方差度量(cov, covariance metric)，CA为交叉注意力度量(cross-attention metric)，EMD为地球移动距离度量(Earth’mover distance metric, EMD)。(1) Shen等人 [18] 直接使用原始振动信号和频谱信号作为输入，使用神经网络来提取特征，并使用原始网络学习各类故障数据的特征，采用欧氏距离作为故障分类的度量。(2) Hao等人 [19] 提出了一种新颖的交叉注意力网络来处理未知类别问题，并提出了传导推理算法以减轻低数据问题。(3) Li等人 [20] 定义了一种新的深度协方差指标，用于衡量查询样本与新概念之间的分布一致性。(4) Chang等人 [21] 解决了利用上下文信息来寻找危险区域的对应关系的手段。(5) X. Wang等人 [22] 针对少样本学习的核心问题提出了查询集–支持集Transformer模型(Query-Support TransFormer model, QSFormer)，并提出了一种新的跨尺度互动特征提取器(Cross-scale Interactive Feature Extractor, CIFE)。(6) Manh-Hung Vu等人 [17] 就小样本分类问题引用了Transformer全局分支和改进的局部马氏距离分支。本文引用其中全局分支和局部分支的框架，并采用无监督学习。本文中前六种方法的实验结果均采自 [17] 。

表2 所展示的是所提模型与其他模型的对比结果，首先，可以看出在数据集数量较少时，仅采用有监督学习和欧氏距离度量的少样本模型表现较差，30样本时仅61.13%，300样本时仅78.77%。covaMNet [20] 和MF-Net [21] 采用协方差度量和仅采用有监督学习的少样本学习模型在样本极少时表现较差，样本较少时有大幅度提升，可以得出提取并融合数据的全局特征和局部特征的模型可以有效提升准确率，表现为30样本时准确率分别为72.17%和83.21%，600样本时准确率分别为96.51%和97.51%。QS-Former [22] 和Fewshot-cross-Mah [17] 采用了Transformer结构来获取全局信息，可以看出采用马氏距离获取数据局部特征的方法不论在样本少还是多的情况下都优于EMD。在CWRU数据集上，本文所提出的模型优于其他六种模型，相比较 [17] 的模型，本文所提模型在样本30，600，19800时分别提升了17.20%、0.09%、0.04%。这证明采用生成对抗网络对数据进行增强，从而有效扩充训练集，并有效帮助小样本学习模型学习到数据之间的相似性和差异性，进而提升了分类准确性。

表3 所展示的是本文所提模型与 [17] 中所示模型的运行时间对比。可以得出增加对抗生成网络的模型可以以更少的训练周期达到较高的性能，减少了训练时间，同时由于数据先经过STFT成频谱图的形式可以使得数据特征更为明显，模型训练时能够快速聚焦于重要特征，进而降低训练的计算量。并且可以利用生成对抗网络的并行生成合成数据的能力，有效利用多核处理器，提高训练效率。

为了清晰展示所提模型各个模块的改进有效性，我们进行了消融实验。本节评估KL-WGAN变种模型的性能包括运行效率，以评估相关组件的作用。基准模型最初基于GAN构造，该网络由生成器和判别器组成，并引入Wasserstein距离作为他们之间的度量。我们将改进后的WGAN结合 [17] 中所提的Transformer全局模块和马氏距离局部模块构成新的故障诊断模型。具体工作如下：本文引入KL散度优化生成器，并提出动态权重调整策略以及学习率调整机制。在数据有限的情况下提高了准确率和召回率并降低了运行时间。

表4 中案例1代表仅使用GAN模块对数据进行处理，案例2为KL-WGAN，引入了KL散度和Wasserstein距离优化生成器和判别器。案例3在KL-WGAN的基础上引入了KL动态权重调整策略。案例4在KL-WGAN的基础上提出了动态权重调整策略和学习率调整机制，用于优化和稳定对抗生成网络。仅使用基线模型，在数据量有限的情况下，其结果准确率最差。在案例2中，使用KL-WGAN对数据进行加强，在样本为30的情况下，模型的准确率和召回率达到了99.06%和99.20%。同时由 表5 可知其运行时间在样本增多时比基线模型时长更短。在案例3中仅引入动态权重调整策略，由 表4 和 表6 可以看出样本数为600时，其召回率和准确率有小幅度提升，样本数为30时，准确率相较于基线模型分别提升了16.57%。相比较KL-WGAN在准确率和召回率上都有所降低，说明仅对KL权重进行简单的动态调整只能小幅度提升模型的分类精度，但由 表6 可知提升了运行效率。此外，如果在KL-WGAN上引入动态权重调整策略和学习率调整机制，如案例4所示，本文提出的模型相较于前面三个都有提升，相比基线模型，准确率在30和600样本时分别提升了17.19%、0.08%。总体而言，结果表明我们所提所有模块的组合是合理的。并在30样本和600样本时达到了最高(99.46%和99.86%)，运行时间减少近18分钟。