变分模态分解(VMD)是一种能够将新型非平稳信号、序列进行自适应分解的一种模态分解方法 [ 9 ]。具体理论如下：

假设将原始信号f分解为k个分量，保证分解序列为中心频率带宽有限的模态分量，且各模态估计带宽之和最小，约束条件为所有模式的总和等于原始信号 [ 10 ]。约束如下：

min { u k , ω k } { ∑ k ‖ ∂ t [ ( δ ( t ) + j π t ) ∗ u k ( t ) ] e j ω k t ‖ 2 2 } (1)

s .t .   ∑ k u k = f (2)

其中，f为原始信号， u k = { u 1 , u 2 , ⋯ , u k } 为各模态的 ω k = { ω 1 , ω 1 , ⋯ , ω k } 为各模态中心频率，

( δ ( t ) + j π t ) ∗ u k ( t ) 为希尔伯特变换下的解析信号， δ ( t ) 为脉冲信号函数， e j ω k t 是对解析信号进行指数修正， ‖ ∂ t [ ( δ ( t ) + j π t ) ∗ u k ( t ) ] e j ω k t ‖ 2 2 是对信号进行高斯平滑调整(即L2范数的平方根)，从而得到每个模态

函数的带宽描述。 ∂ t 是求该二范数的梯度，这里使用二范数是防止模型过拟合 [ 11 ]。

针对上述的约束最优化问题，将约束变分问题转变为非约束变分问题，使用了增广Lagrangian函数 [ 9 ]：

L ( { u k } , { ω k } , λ ) = α ∑ k ‖ ∂ t [ ( δ ( t ) + j π t ) ∗ u k ( t ) ] e j ω k t ‖ 2 2     + ‖ f ( t ) − ∑ k u k ( t ) ‖ 2 2 + 〈 λ ( t ) , f ( t ) − ∑ k u k ( t ) 〉 (3)

其中， α 为惩罚参数， λ 为拉格朗日乘子。

相应的模态分量 u k 、 ω k 中心频率的更新公式如下：

u k n + 1 ( ω ) = f ( ω ) − ∑ i = 1 , i ≠ k k u i ( ω ) + λ ( x ) 2 1 + 2 α ( ω − ω k ) 2 (4)

ω k n + 1 = ∫ ∞ ω | u k n + 1 ( ω ) | 2 d ω ∫ ∞ | u k n + 1 ( ω ) | 2 d ω (5)

其中， ω 为频率， f ( x ) 、 λ ( x ) 、 u k n + 1 分别为 f ( t ) 、 λ ( t ) 、 u k n ( t ) 的傅里叶变换。

VMD整体步骤如下：

1) 初始化参数，模态数k，带宽限制、噪声容忍度、频域表达式 { u k } ，中心频率 { ω k } ，拉格朗日乘子 λ 等；

2) 根据公式更新模态分量 u k 和中心频率 ω k ；

3) 利用公式 λ n + 1 ( ω ) = λ n ( ω ) + τ ( f ( ω ) − ∑ k n + 1 u k ( ω ) ) 更新 λ n + 1 ；

4) 设置停止迭代条件，退出循环，然后返回步骤(2)，最终得到分解后的模态，完成模态分解。

长短期记忆网络(LSTM)模型将隐藏层中的神经元替换成了具有长短期记忆的神经元，还增加了三个门控单元，包括遗忘门、输出门和输入门，从而有效的解决了之前模型的长期依赖问题 [ 12 ]。其流程如图1。

图1. 长短期记忆网络流程图

具体公式如下：

输入门： I t = sigmoid ( W i [ H t − 1 , x t ] + b i ) (6)

遗忘门： F t = sigmoid ( W f [ H t − 1 , x t ] + b f ) (7)

候选记忆： C ˜ t = sigmoid ( W c [ H t − 1 , x t ] + b c ) (8)

更新状态单元： C t = F t ∗ C t − 1 + I t ∗ C ˜ t (9)

输出门： O t = sigmoid ( W o [ H t − 1 , x t ] + b 0 ) (10)

输出： H t = O t ∗ tanh ( C t ) (11)

上式中的 W i 、 W f 、 W c 、 W o 分别为各个门的权重， b i 、 b f 、 b c 、 b 0 分别为各个门的偏置项， σ 为激活函数 [ 13 ]。

BiLSTM模型的具体结构是由两层相同的LSTM模型构成，且两层的神经元数量相等。首先，将正向的数据输入向前LSTM单元，得到向前LSTM单元的输出，类似的，再将数据反向输入向后LSTM单元，得到向后输出，最后将向前和向后的输出结果按照一定的权重线性叠加，从而得到最终的输出结果 [ 14 ]。BiLSTM神经网络模型本质上是将一个前向序列反向，转化为LSTM模型的输入，故它可以同时训练两个模型。前向LSTM使用过去的数据来预测未来信息，后向LSTM则使用未来信息拟合过去信息 [ 15 ]。模型结构如图2所示，其中 x t ( t ∈ [ 1 , n ] ) 表示LSTM单元的输入， h t ( t ∈ [ 1 , n ] ) 对应于每一个输入通过LSTM单元得到的隐藏层输出。

注意力机制可以看作模拟人脑注意力活动的一个行为 [ 15 ]。注意力机制主要是基于概率来进行分配，对关键信息给予足够的注意，由此来突显其重要性，从而提高模型的精度 [ 4 ]，其结构如图3所示。其中， x t ( t ∈ [ 1 , n ] ) 表示BiLSTM的输入， h t ( t ∈ [ 1 , n ] ) 对应于每一个输入通过BiLSTM得到的隐藏层输出， α t ( t ∈ [ 1 , n ] ) 为注意力机制对隐藏层输出的注意力概率分布值，y为注意力机制的BiLSTM输出值 [ 16 ]。

图2. 双向长短期记忆网络流程图

图3. 注意力机制流程图

将BiLSTM隐藏层输出向量 H = { h 1 , h 2 , ⋯ , h n } 作为注意力机制的输入，再通过公式计算出相应的权重 α n ，如等式所示 [ 17 ]：

e i = tanh ( W h h i + b n ) , e i ∈ [ − 1 , 1 ] (13)

α i = exp ( e i ) ∑ i = 1 t exp ( e i ) , ∑ i = 1 t α i = 1 (14)

其中 e i 注意力得分，即上一时刻状态与本时刻输出的相似性； W h 为权重矩阵， h i 、 b i 为权重和偏置 [ 17 ]。注意力向量 H ′ = { h ′ 1 , h ′ 2 , ⋯ , h ′ n } 可以通过公式求得：

h ′ i = α i ⋅ h i (15)

最后将注意力向量与不同时间段输入得到的隐状态向量线性映射后相加得出最终的预测值。

相比与原始序列，变分模态分解能够将整个序列分为多个子模态，解决了数据中存在随机性和非线性等问题 [ 18 ]。相比于LSTM模型，虽然说LSTM模型解决了RNN的长期依赖问题，但是没有考虑到更进一步的时间的信息，所以针对发电数据，无法学习到两个时间方向的关系，BiLSTM正是针对这个问题进行构建的 [ 7 ]。随后本文引入的注意力机制通过对BiLSTM输出的特征赋予不同的权重，加强重要信息的影响，减弱了其他噪音信息的影响，从而使得模型能较好的捕获较长时间跨度的信息特征 [ 7 ]。上述三种方法和模型的结合使得整体混合模型的预测结果得到进一步的提升。

本文模型流程如图4所示，其算法设计步骤如下：

1) 将原始数据序列进行初始数据检查，包括缺失值、重复值的查找及补全等。

2) 随后对序列数据进行变分模态分解，在经过多次实验后，最终本文发现变分模态分解超参数选择为k = 6，二次惩罚因子 α = 7000 ，将序列分解为6个子模态能较好的提升模型的整体预测能力。

3) 将变分模态分解之后得到的子模态作为BiLSTM的输入，不同子模态分别输入不同的网络单元，并通过前向和后向的网络进一步学习序列的相关性特征，最终以隐状态的形式输出，进一步作为注意力机制的输入。

4) 在注意力机制中，隐状态行向量与注意力向量线性映射相加后再通过全连接层便可得出每个子模态的预测值 [ 19 ]，最终将预测值求和便得出最终的预测结果，随后得出相应的评价指标。

图4. 模型预测流程图

本文评价指标为平均绝对误差(MAE)、平均绝对百分比误差(MAPE)和均方根误差(RMSE)。公式如下：

MAE = 1 n ∑ i = 1 n | y ^ i − y i | (16)

MAPE = 100 % n ∑ i = 1 n | y ^ i − y i y i | (17)

RMSE = 1 n ∑ i = 1 n ( y i − y ^ i ) 2 (18)

式中， y ^ i 为预测值， y i 表示真实值，n为预测点数目，上述指标越小，则表明模型预测结果越接近真实值 [ 20 ]。

本文数据来源于National Renewable Energy Laboratory (NREL)，为美国西南地区的风力发电数据，本文选取的数据区间为2020年1月1日至2020年2月29日，该数据集一共包含了三台风机，每日数据点以每小时为单位，每台风机包含1440条数据。本文针对其中风机编号为303的发电机组为实验对象。通过训练集和测试集的划分，训练集有1224组数据，测试集中包含216条数据。由于数据量庞大，故只选取了部分数据进行展示，如图5所示，其中横轴为时间，纵轴为发电量。随后查看数据的统计信息，随后进行缺失值的查找和补全，本文是运用均值对缺失值进行补全。

图5. 部分原始序列数据情况

由于模型超参数较多，为了保证实验的客观性，故将不同模型的超参数均设为同一标准，具体设置结果如表1所示。

表1. 实验参数设置

在处理完数据的基础之上，对303号风机的数据进行变分模态分解，具体情况如图6所示。

图6. 风机303的变分模态分解情况

采用VMD方法对数据进行降噪处理，提取出数据中的特征规律。通过图6可见，共将模态分解为6个IMF，模态1的波动频率相对较低，反应出风力发电的波动性。其余模态都为高频模态，在一定程度上体现了风力发电的随机性。从中心模态可以看出6个中心模态都不处于同一个频率上，这也防止了模态分量混叠的问题。