CN115561005A - 基于eemd分解和轻量化神经网络的化工过程故障诊断方法 - Google Patents

Abstract

本发明涉及化工故障处理领域，且提出了一种基于EEMD分解和轻量化神经网络的化工过程故障诊断方法，包括数据分解方法EEMD和故障检测模型AOS‑LSTM以及最后的模型剪枝三部分组成。化工故障诊断方法的具体步骤为：使用数据分解方法EEMD对采集到的化工故障数据进行数据分解并进行预处理，使用故障检测模型AOS‑LSTM来构建主干的分类网络。利用优化算法对LSTM进行改良，得到的AOS‑LSTM相比于原始的LSTM在分类性能上表现更佳。最后对网络模型进行压缩剪枝，使模型结构变得高效简单，有利于模型的迁移。与现有技术相比，本发明能方便快捷的诊断化工过程中产生的故障。

Description

基于EEMD分解和轻量化神经网络的化工过程故障诊断方法

技术领域

本发明涉及化工故障处理领域，特别涉及一种基于EEMD分解和轻量化神经网络的化工过程故障诊断方法。

背景技术

化学工程是一门专业性强的复杂学科，涉及许多基础理论及新技术的应用，该领域中化工生产过程中会产生许多的故障问题。如何提高这些故障的检测效率，是一个值得深入研究的问题。化工过程数据具有非线性、高维、非高斯分布等特征，因此对于故障检测过程提取故障的信息会更加复杂，传统的基于过程数据的化工过程故障检测方法也被开发出了很多，这类基于数据的方法并不需要提前获取大量的专家知识，只需获取化工过程采集到的数据，通过建立适当的故障检测模型，便可预测出当前系统的状况，因此这类方法在目前的科学研究和工业应用中都较为广泛。目前比较流行的PCA、ICA、KPCA、KICA、MICA等传统方法虽然可以有效地检测出某些故障，然而对于某些扰动性故障检出率极低，说明传统的方法依旧未能完全准确地提取出这些故障的信息，这就需要开发出一些新的方法，以提高故障的检出率。复杂化工过程的非线性、高噪声、非高斯分布等特性使得传统的化工过程故障检测方法并不表现出优良的诊断性能，因此开发适用于复杂非线性化工过程的故障监测方法是非常有必要的。而深度神经网络的逐层学习模式，能够更加准确地学习到化工过程原始数据所隐含的特征，从而应用适当的分类模型可以实现对化工过程产生的故障进行分类。

近年来，随着深度学习理论的不断完善和发展，引入了时序概念，即不只关注当前时刻信息的处理，也要实现前后时间信息的衔接，进而提高分析准确率。比如，RNN将此概念引入到网络构建中，其本质特征是在网络层的处理单元之间既有内部的反馈连接，又有前馈连接。使其具有多角度感知信息能力。但是，RNN具有结构缺陷，无法有效地联系远程信息，进而产生梯度消失和爆炸，导致网络无法调整误差。

发明内容

发明目的：针对化工过程中产生的故障不能进行一个快速智能的诊断问题，本发明提供一种基于EEMD分解和轻量化神经网络的化工过程故障诊断方法，能方便快捷的诊断化工过程中产生的故障。

技术方案：本发明公开了一种基于EEMD分解和轻量化神经网络的化工过程故障诊断方法，包括以下步骤：

步骤1：获取化工历史时序数据，并将其作为训练样本集和测试样本集；训练样本集用于建立本方法的智能故障检测模型，测试样本集用于验证本方法的诊断精度；

步骤2：对于获取的化工历史时序数据进行预处理操作，采用EEMD分解技术分解原始的化工数据序列；

步骤3：构建网络模型并进行模型训练，使用原子轨道搜索算法AOS对LSTM模型中的训练次数和学习率以及隐含层节点数三个参数进行网络参数寻优，使用故障检测模型AOS-LSTM来构建主干的分类网络；

步骤4：对步骤3中网络模型进行压缩剪枝，在步骤3网络模型中使用BN层，采用剪枝的方法在BN层的缩放因子上加入L1；

步骤5：利用优化后的网络模型实现化工过程故障诊断。

进一步地，所述步骤2中预处理包括如下步骤：

步骤2.1：对于获取的化工时序数据，采用EEMD分解技术分解原始的化工数据序列，在原始信号数据x(t)中加入随机高斯白噪声x_m(t)＝x(t)+kn_m(t)式中，k为所加噪声幅值系数；

步骤2.2：然后利用EMD方法对信号x_m(t)进行分解，获得IMF分量；

步骤2.3：每次加入不同的高斯白噪声序列，重复步骤2.1、2.2；

步骤2.4：将分解得到的各个IMF分量的均值记为最终分解结果

N为加噪声的次数；c_i，m表示第m次EMD分解得到的第i个IMF分量；

步骤2.5：针对分解后的数据进行标准化处理，求出数据的均值和标准差，通过公式

得到标准化处理后的数据，μ是样本数据的均值，σ是样本数据的标准差，标准化处理后适当选取训练样本与测试样本。

进一步地，所述步骤2.2利用EMD方法对信号x_m(t)进行分解具体为：

首先找到信号x(t)所有的极值点，用3次样条曲线拟合出上下极值点的包络线，并求出上下包络线的平均值m(t)，在x(t)中减去m(t)得到h(t)，判断中间信号h(t)的极值点的个数和过零点的个数必须相等或相差最多不能超过一个，并且在任意时刻，由局部极大值点形成的上包络线和由局部极小值点形成的下包络线的平均值为零；如果满足条件，h(t)就是一个IMF分量，如果不是，则以h(t)代替x(t)，重复以上步骤直到h(t)满足条件，获得IMF分量。

进一步地，所述步骤3中原子轨道搜索算法AOS进行参数寻优的具体操作为：

步骤3.1：首先通过如下公式对候选解进行初始化，确定电子的初始位置：

其中，

表示候选解的初始位置，

是第i个候选解的第j个决策变量的最小和最大界限，rand是[0，1]范围内的均匀分布随机向量；

步骤3.2：设置电子数量、区域空间内虚拟层数以及候选解的维数；对学习率和训练次数以及隐含层节点数进行寻找；

使用交叉熵的值作为电子的适应度函数，计算电子的适应度值，更新最优的适应度值，从而寻找到最优的模型参数，适应度函数如下：

其中，y为输出实际值，

为输出预测值；将训练LSTM得到的损失函数值作为AOS的适应度值，如果适应度值优于局部最优值和全局最优值，则更新这两者的值，若满足最小误差或者达到最大迭代次数就输出模型参数，将所得的参数用来训练LSTM模型，如果不满足就对算法进行更新；

步骤3.3：先计算第K个虚拟层的可行解的位置和适应度均值，获得局部最优解，得到第k个虚拟层的结合态BS^k和结合能BE^k，公式如下：

步骤3.4：通过全部的可行解的位置和适应度的均值，得到整体最优解，确定整体的结合态BS和结合能BE公式如下：

步骤3.5：设置算法的迭代次数为100次，首先设置一个光子速率PR，在(0，1)范围内为每个电子生成一个均匀分布的随机数φ，当φ＞PR时且当

电子会移动到低的虚拟层，是对电子的位置进行更新，更新方式如下式：

当

电子会移动到高的虚拟层，更新方式如下式：

α、β和γ都为随机生成的数字的向量，均匀分布在(0，1)之间；

LE为搜索域中最低能级的电子，LE^k为第k个虚拟层中最低能级的电子。

当φ＜PR时，此时电子受其它作用影响，而不是光子作用，电子位置更新如下式：

其中r为φ的向量。

进一步地，所述步骤4中LSTM模型的具体操作为：

在原子轨道搜索算法AOS进行参数寻优迭代完成到达结束条件时，输出全局最优解，并以该解为最优的学习率和训练次数以及隐含层节点数，确定LSTM的最优参数，应用参数构建AOS-LSTM模型，LSTM包括记忆细胞c_t和三个门限：输入门i_t，遗忘门f_t和输出门o_t，当输入序列为x_t时，三个门限和记忆细胞的输出如下：

f_t＝σ(w_f[h_t-1，x_t]+b_f)

o_t＝σ(w_o[h_t-1，x_t]+b_o)

i_t＝σ(w_i[h_t-1，x_t]+b_i)

c_t＝f_t×c_t-1+i_t×tanh(w_g[h_t-1，x_t]+b_g)

上述式中，σ为sigmod函数，h_t-1为前一时刻单元的输出，w_i、w_f、w_o、w_g为模型参数，b_f、b_i、b_o、b_g为偏置项；

在确定LSTM网络的最优参数后，将数据输入到LSTM网络中进行训练，提取得到具有时间特性的特征信息，在网络中加入BN层，使用了Adam优化器来对网络进行优化，最后由Softmax分类器进行故障类别的分类。

进一步地，所述步骤4中对网络模型进行剪枝的具体操作为：

采用剪枝的方法在BN层的缩放因子上加入L1，L1正则化对权重参数做了稀疏与特征选择，L1正则化的公式为：min∑(y_i-w^Tx_i)²+λ||w||₁，其中前一项为损失函数，后一项表示有些权重比较小的数值会被正则化处理；

最终BN层会进行如下转换：

z_out＝αz+β，其中μ_β和σ_β是BN层上输入激活的均值和标准方差，α和β表示尺度和位移，它提供了将归一化激活线性转换回任何尺度的可能性，将BN层中的α参数作为需要的缩放因子。

有益效果：

本发明用数据分解方法EEMD对采集到的化工故障数据进行数据分解并进行预处理，使用故障检测模型AOS-LSTM来构建主干的分类网络。利用优化算法对LSTM进行改良，得到的AOS-LSTM相比于原始的LSTM在分类性能上表现更佳。最后对网络模型进行压缩剪枝，使模型结构变得高效简单，有利于模型的迁移。

附图说明

图1化工故障检测方法的流程图；

图2化工过程故障诊断模型建模图。

具体实施方案

下面结合实施例对发明作进一步详细的描述，但本发明的实施方式不限于此。

本发明公开了一种基于EEMD分解和轻量化神经网络的化工过程故障诊断方法，并将上述提出的方法应用到田纳西-伊斯曼(TE)基准化工过程来进行实验。该方法具体包括如下步骤：

步骤1：化工数据简介

TE过程主要包括5个操作单元，即：反应器、冷凝器、汽液分离器、循环压缩机、汽提塔。在模拟的数据中，其中包含41个测量变量和11个控制变量。TE过程还包括21个预先设定的故障。其中具体的故障种类说明见表1，训练集样本与测试集样本的采样间隔都为3分钟，每个故障的训练集由480个样本构成；测试集由960个样本组成。

表1 TE过程预先设定的故障

步骤2：化工数据进行预处理操作

步骤2.1：首先对数据进行EEMD分解，在原始信号数据x(t)中加入随机高斯白噪声x_m(t)＝x(t)+kn_m(t)式中，k为所加噪声幅值系数。

步骤2.2：然后利用EMD方法对信号x_m(t)进行分解，首先找到信号x(t)所有的极值点，用3次样条曲线拟合出上下极值点的包络线，并求出上下包络线的平均值m(t)，在x(t)中减去m(t)得到h(t)，判断中间信号h(t)的极值点的个数和过零点的个数必须相等或相差最多不能超过一个。并且在任意时刻，由局部极大值点形成的上包络线和由局部极小值点形成的下包络线的平均值为零。如果满足条件，h(t)就是一个IMF分量，如果不是，则以h(t)代替x(t)，重复以上步骤直到h(t)满足条件，获得IMF分量。

步骤2.3：每次加入不同的高斯白噪声序列，重复步骤2.1、2.2。

步骤2.4：将分解得到的各个IMF分量的均值记为最终分解结果

N为加噪声的次数；c_i，m表示第m次EMD分解得到的第i个IMF分量。

骤2.5：针对分解后的数据进行标准化处理，求出数据的均值和标准差，通过公式

得到标准化处理后的数据，其中μ是样本数据的均值，σ是样本数据的标准差，标准化处理后得到训练样本与测试样本。

步骤3：构建网络模型并进行模型训练

首先通过原子轨道搜索算法来对LSTM的网络参数进行寻优，以提高模型的精度。AOS算法模拟了电子的两种状态的转移，在高低能态之间的转移过程。在该算法中，每一电子代表一个可行解x，在搜索空间中，电子的所出现层的概率服从正态分布。

步骤3.1：首先在该算法中，通过如下公式对候选解进行初始化，确定电子的初始位置：

其中，

表示候选解的初始位置，

是第i个候选解的第j个决策变量的最小和最大界限，rand是[0，1]范围内的均匀分布随机向量。

步骤3.2：然后设置电子数量为30，区域空间内虚拟层数为2，和候选解的维数。这里对学习率和训练次数以及隐含层节点数进行寻找，所以维数为三维。学习率取值范围为[0.001，0.01]，训练次数取值范围为[200，1000]，隐含层节点数取值范围为[10，80]。

每个电子都有一个能量状态，也就是候选解的目标函数值。在这里更好目标函数值的候选解代表具有更低能级的电子，以下向量方程用于包含不同电子的目标函数值：

其中，i为电子(可行解)的数目，

是第k个虚拟层中的第i个解的目标函数值。

因此每个候选解，以及每个候选解对应的能量密度，可以用下式表达：

其中，

是第k个虚拟层中的第i个候选解，K为第k个虚拟层，n为最大的虚拟层数；j为可行解的维数。

AOS算法将整个搜索域的最优适应度叫做LE，将第k个虚拟层中的最优解叫做LE^k，通过全局最优和当前最优对电子的位置进行牵引寻优。最低能级的电子(LE或LE^k)是最优的候选解。

在这里使用交叉熵的值作为电子的适应度函数，计算电子的适应度值，更新最优的适应度值，从而寻找到最优的模型参数。适应度函数如下：

其中，y为输出实际值，

为输出预测值。将训练LSTM得到的损失函数值作为AOS的适应度值，如果适应度值优于局部最优值和全局最优值，则更新这两者的值。若满足最小误差或者达到最大迭代次数就输出模型参数，将所得的参数用来训练LSTM模型，如果不满足就对算法进行更新。

步骤3.3：先计算第K个虚拟层的可行解的位置和适应度均值，获得局部最优解。得到第k个虚拟层的结合态BS^k和结合能BE^k。公式如下：

步骤3.4：然后通过全部的可行解的位置和适应度的均值，得到整体最优解，确定整体的结合态BS和结合能BE公式如下：

步骤3.5：接下来要对算法进行更新，这里设置算法的迭代次数为100次。首先设置一个光子速率PR，这里设置PR＝0.3。算法会在(0，1)范围内为每个电子生成一个均匀分布的随机数φ，当φ＞PR时且当

电子会移动到低的虚拟层，是对电子的位置进行更新。更新方式如下式：

当

电子会移动到高的虚拟层，更新方式如下式：

在式子中，α、β和γ都为随机生成的数字的向量，均匀分布在(0，1)之间。

当φ＜PR时，此时电子受其它作用影响，而不是光子作用，电子位置更新如下式：

其中，r为φ的向量。

步骤3.6：在迭代完成到达结束条件时，输出全局最优解，并以该解为最优的学习率和训练次数以及隐含层节点数。也就是确定LSTM的最优参数，应用参数构建AOS-LSTM模型。LSTM包括记忆细胞c_t和三个门限：输入门i_t，遗忘门f_t和输出门o_t，当输入序列为x_t时，三个门限和记忆细胞的输出如下：

f_t＝σ(w_f[h_t-1，x_t]+b_f)

o_t＝σ(w_o[h_t-1，x_t]+b_o)

i_t＝σ(w_i[h_t-1，x_t]+b_i)

c_t＝f_t×c_t-1+i_t×tanh(w_g[h_t-1，x_t]+b_g)

上述式中，σ为sigmod函数，h_t-1为前一时刻单元的输出，w_i、w_f、w_o、w_g为模型参数，b_f、b_i、b_o、b_g为偏置项。

在确定了LSTM网络的最优参数后，将数据输入到LSTM神经网络中进行训练，提取得到具有时间特性的特征信息，在网络中也加入了BN层，防止过拟合，有利于网络的收敛。使用了Adam优化器来对网络进行优化。最后由Softmax分类器进行故障类别的分类，得到最终的结果。

步骤4：对网络模型进行剪枝

在此模型中使用了BN层(批量归一化)，此次采用剪枝的方法在BN层的缩放因子上加入L1，L1正则化在于防止模型过拟合，起稀疏模型结构的作用，L1正则化对权重参数做了稀疏与特征选择。

L1正则化的公式为：min∑(y_i-w^Tx_i)²+λ||w||₁，其中前一项为损失函数，后一项表示有些权重比较小的数值会被正则化处理。

最终BN层会进行如下转换：

z_out＝αz+β，其中μ_β和σ_β是BN层上输入激活的均值和标准方差，α和β表示尺度和位移，它提供了将归一化激活线性转换回任何尺度的可能性。将BN层中的α参数作为需要的缩放因子。

上述实施方式只为说明本发明的技术构思及特点，其目的在于让熟悉此项技术的人能够了解本发明的内容并据以实施，并不能以此限制本发明的保护范围。凡根据本发明精神实质所做的等效变换或修饰，都应涵盖在本发明的保护范围之内。

Claims (6)

1.一种基于EEMD分解和轻量化神经网络的化工过程故障诊断方法，其特征在于，包括以下步骤：

步骤1：获取化工历史时序数据，并将其作为训练样本集和测试样本集；训练样本集用于建立本方法的智能故障检测模型，测试样本集用于验证本方法的诊断精度；

步骤2：对于获取的化工历史时序数据进行预处理操作，采用EEMD分解技术分解原始的化工数据序列；

步骤3：构建网络模型并进行模型训练，使用原子轨道搜索算法AOS对LSTM模型中的训练次数和学习率以及隐含层节点数三个参数进行网络参数寻优，使用故障检测模型AOS-LSTM来构建主干的分类网络；

步骤4：对步骤3中网络模型进行压缩剪枝，在步骤3网络模型中使用BN层，采用剪枝的方法在BN层的缩放因子上加入L1；

步骤5：利用优化后的网络模型实现化工过程故障诊断。

2.根据权利要求1所述的基于EEMD分解和轻量化神经网络的化工过程故障诊断方法，其特征在于，所述步骤2中预处理包括如下步骤：

步骤2.1：对于获取的化工时序数据，采用EEMD分解技术分解原始的化工数据序列，在原始信号数据x(t)中加入随机高斯白噪声x_m(t)＝x(t)+kn_m(t)，式中，k为所加噪声幅值系数；

步骤2.2：然后利用EMD方法对信号x_m(t)进行分解，获得IMF分量；

步骤2.3：每次加入不同的高斯白噪声序列，重复步骤2.1、2.2；

步骤2.4：将分解得到的各个IMF分量的均值记为最终分解结果

N为加噪声的次数；c_i，m表示第m次EMD分解得到的第i个IMF分量；

步骤2.5：针对分解后的数据进行标准化处理，求出数据的均值和标准差，通过公式

得到标准化处理后的数据，μ是样本数据的均值，σ是样本数据的标准差，标准化处理后适当选取训练样本与测试样本。

3.根据权利要求2所述的基于EEMD分解和轻量化神经网络的化工过程故障诊断方法，其特征在于，所述步骤2.2利用EMD方法对信号x_m(t)进行分解具体为：

首先找到信号x(t)所有的极值点，用3次样条曲线拟合出上下极值点的包络线，并求出上下包络线的平均值m(t)，在x(t)中减去m(t)得到h(t)，判断中间信号h(t)的极值点的个数和过零点的个数必须相等或相差最多不能超过一个，并且在任意时刻，由局部极大值点形成的上包络线和由局部极小值点形成的下包络线的平均值为零；如果满足条件，h(t)就是一个IMF分量，如果不是，则以h(t)代替x(t)，重复以上步骤直到h(t)满足条件，获得IMF分量。

4.根据权利要求1所述的基于EEMD分解和轻量化神经网络的化工过程故障诊断方法，其特征在于，所述步骤3中原子轨道搜索算法AOS进行参数寻优的具体操作为：

步骤3.1：首先通过如下公式对候选解进行初始化，确定电子的初始位置：

其中，

表示候选解的初始位置，

是第i个候选解的第j个决策变量的最小和最大界限，rand是[0，1]范围内的均匀分布随机向量；

步骤3.2：设置电子数量、区域空间内虚拟层数以及候选解的维数；对学习率和训练次数以及隐含层节点数进行寻找；

使用交叉熵的值作为电子的适应度函数，计算电子的适应度值，更新最优的适应度值，从而寻找到最优的模型参数，适应度函数如下：

其中，y为输出实际值，

为输出预测值；将训练LSTM得到的损失函数值作为AOS的适应度值，如果适应度值优于局部最优值和全局最优值，则更新这两者的值，若满足最小误差或者达到最大迭代次数就输出模型参数，将所得的参数用来训练LSTM模型，如果不满足就对算法进行更新；

步骤3.3：先计算第K个虚拟层的可行解的位置和适应度均值，获得局部最优解，得到第k个虚拟层的结合态BS^k和结合能BE^k，公式如下：

步骤3.4：通过全部的可行解的位置和适应度的均值，得到整体最优解，确定整体的结合态BS和结合能BE公式如下：

步骤3.5：设置算法的迭代次数为100次，首先设置一个光子速率PR，在(0，1)范围内为每个电子生成一个均匀分布的随机数φ，当φ＞PR时且当

电子会移动到低的虚拟层，是对电子的位置进行更新，更新方式如下式：

当

电子会移动到高的虚拟层，更新方式如下式：

α、β和γ都为随机生成的数字的向量，均匀分布在(0，1)之间；

LE为搜索域中最低能级的电子，LE^k为第k个虚拟层中最低能级的电子。

当φ＜PR时，此时电子受其它作用影响，而不是光子作用，电子位置更新如下式：

其中r为φ的向量。

5.根据权利要求4所述的基于EEMD分解和轻量化神经网络的化工过程故障诊断方法，其特征在于，所述步骤4中LSTM模型的具体操作为：

在原子轨道搜索算法AOS进行参数寻优迭代完成到达结束条件时，输出全局最优解，并以该解为最优的学习率和训练次数以及隐含层节点数，确定LSTM的最优参数，应用参数构建AOS-LSTM模型，LSTM包括记忆细胞c_t和三个门限：输入门i_t，遗忘门f_t和输出门o_t，当输入序列为x_t时，三个门限和记忆细胞的输出如下：

f_t＝σ(w_f[h_t-1，x_t]+b_f)

o_t＝σ(w_o[h_t-1，x_t]+b_o)

i_t＝σ(w_i[h_t-1，x_t]+b_i)

c_t＝f_t×c_t-1+i_t×tanh(w_g[h_t-1，x_t]+b_g)

上述式中，σ为sigmod函数，h_t-1为前一时刻单元的输出，w_i、w_f、w_o、w_g为模型参数，b_f、b_i、b_o、b_g为偏置项；

在确定LSTM网络的最优参数后，将数据输入到LSTM网络中进行训练，提取得到具有时间特性的特征信息，在网络中加入BN层，使用了Adam优化器来对网络进行优化，最后由Softmax分类器进行故障类别的分类。

6.根据权利要求5所述的基于EEMD分解和轻量化神经网络的化工过程故障诊断方法，其特征在于，所述步骤4中对网络模型进行剪枝的具体操作为：

采用剪枝的方法在BN层的缩放因子上加入L1，L1正则化对权重参数做了稀疏与特征选择，L1正则化的公式为：min∑(y_i-w^Tx_i)²+λ||w||₁，其中前一项为损失函数，后一项表示有些权重比较小的数值会被正则化处理；

最终BN层会进行如下转换：

z_out＝αz+β，其中μ_β和σ_β是BN层上输入激活的均值和标准方差，α和β表示尺度和位移，它提供了将归一化激活线性转换回任何尺度的可能性，将BN层中的α参数作为需要的缩放因子。

Images