一种基于NNTR-SMOTE过采样处理不平衡小样本的变压器故障在线诊断方法与流程

一种基于nntr-smote过采样处理不平衡小样本的变压器故障在线诊断方法
1.本发明属于变压器故障诊断研究领域，具体地说，涉及一种基于nntr-smote过采样处理不平衡小样本的变压器故障在线诊断方法。


背景技术：

2.油浸式变压器是输变电系统的关键设备之一，其运行状态决定着电力系统能否安全可靠运行。然而，我国目前尚在投运的油浸式变压器中，有很大一部分运行年限较长，存在绝缘劣化等故障隐患。为了保障电力系统运行的可靠性和经济性，必须建立高效准确的变压器故障实时诊断模型。
3.油浸式变压器发生绝缘老化时会产生少量气体溶解在绝缘油中，油中溶解气体的组成成分及其比例关系能够反映变压器的运行工况。正常运行的油浸式变压器，由于绝缘老化裂解等原因会产生极少量的气体，其主要成分为h2、ch4、c2h4、c2h2、c2h6、co2、co。变压器故障类型和气体成分的变化呈现较强的相关性，因此对气体组分、含量进行分析的油中溶解气体分析(dissolved gas analysis,dga)方法是目前最为重要的变压器状态检测和故障诊断方法之一，以dga为基础形成的改良三比值法、duval三角形法、rogers比值法等规则简单，发挥了重要作用，但均存在着状态编码不完备，编码界限模糊、不清晰的问题，从而导致故障诊断的精度低。随着机器学习理论的发展，人工神经网络(artificial neural network，ann)、支持向量机(support vector machine，svm)、极限学习机(extreme learning machine,elm)等模型在变压器故障识别中取得了良好的应用成效。然而，上述方法虽然灵活性好，准确率高，但需要大量的数据支撑模型的训练。在实际生产中，变压器不同故障的发生率有着明显的差异，导致不同故障积累的样本极不均衡，基于这些不均衡数据训练的模型对小样本故障进行诊断容易导致小样本故障的误判和漏判。
4.目前，对于不平衡数据的处理方法主要通过降采样和过采样来对数据进行平衡。过采样方法会增加冗余数据，可能存在过拟合问题，会导致数据分布不合理甚至会脱离真实情况。降采样方法会导致数据集中有用的数据信息可能丢失。
5.针对上述问题，本发明提出一种不平衡样本条件下的变压器故障在线诊断方法，能够有效解决对不平衡故障样本的误判和漏判问题。


技术实现要素：

6.一种基于nntr-smote过采样处理不平衡小样本的变压器故障在线诊断方法，有效提高变压器的故障诊断精度。
7.本发明采用以下技术方案实现：一种基于nntr-smote过采样处理不平衡小样本的变压器故障在线诊断方法，包括以下步骤：
8.第一步，将采集到的变压器故障样本数据标准化处理，使用最近邻三角区域合成少数类过采样(nntr-smote)方法得到平衡数据；
9.第二步，采用无编码比值法构造油中溶解气体特征，得到特征数据集；
10.第三步，对特征数据集采用多维尺度分析(mds)方法进行特征融合；
11.第四步，利用ga算法用以xgboost模型参数的优化，构建变压器故障诊断模型，最后进行十折交叉验证实现变压器故障诊断。
12.第五步，利用训练后的xgboost模型进行变压器故障在线诊断。
13.进一步地，所述第一步的具体步骤如下：
14.步骤1：收集变压器dga样本数据
15.其中，n为采集的油中溶解气体数量，m为采集的样本数量。
16.具体的，油中的溶解气体包括h2、ch4、c2h4、c2h2、c2h6，根据变压器故障出现的温度和放电能量的不同将可变压器故障类型分别是：正常、中温过热、中低温过热、高温过热、放电兼过热、局部放电、低能放电和高能放电，并标签1到8。
17.步骤2：将采集到的故障样本数据进行z-score标准化处理，得到标准化样本数据
[0018][0019]
具体的，z-score标准化处理公式为：
[0020][0021]
其中，μ为x数据集合的均值，σ为数据集元素的标准差，x
′
为x标准化之后的结果。
[0022]
步骤3：利用最近邻三角区域合成少数类过采样(nntr-smote)方法得到平衡数据；
[0023]
具体的，假设多数类样例个数为m，少数类样例个数为p，计算少数类采样倍率n。
[0024]
n＝(m-p)/p
[0025]
选取少数类任意样例y0，在y0的2个近邻少数类样例y1和y2中产生一个新的人工样例y
′
new
，公式为：
[0026]y′
new
＝y2+rand(0，1)[y0+rand(0，1)(y
1-y0)-y2]
[0027]
其中，rand(0，1)表示0～1之间的一个随机数。
[0028]
当所有人工样例都产生后，还需要对其最近邻样例进行检测，如果最近邻样例是同类，保留该样例；如果是异类则删除该样例。再计算采样倍率，合成人工样例，直到采样倍率为0。
[0029]
进一步地，所述第二步的具体步骤如下：
[0030]
步骤1：对标准化处理后的故障样本数据采用无编码比值法构造油中溶解气体特征；
[0031]
具体的油中溶解气体特征如下：ch4/h2、c2h2/h2、c2h2/c2h4、c2h4/c2h6、c2h6/ch4、c2h2/ch4、c2h4/ch4、h2/thc、ch4/thc、c2h4/thc、c2h6/thc、c2h2/thc、(ch4+c2h4)/thc、h2/all、ch4/all、c2h2/all、c2h4/all、c2h6/all。
[0032]
其中，thc＝ch4+c2h2+c2h4+c2h6，all＝h2+ch4+c2h2+c2h4+c2h6。
[0033]
进一步地，所述第三步的具体步骤如下：
[0034]
步骤1：计算m个d维样本之间的欧氏距离σ，生成距离矩阵δ；
[0035]
假设有m个d维样本，样本间的欧式距离定义为：
[0036][0037]
式中，σ
ij
为第i个样本和第j个样本间的距离，即：
[0038][0039]
步骤2：计算降维后样本的内积矩阵，即求δ的双重中心化矩阵
[0040]
通过对距离阵δ的双重中心化矩阵进行奇异值分解，可以得到矩阵x的求解，矩阵δ的双重中心化矩阵为：
[0041][0042]
式中，式中，表达式为：
[0043][0044]
步骤3：对内积矩阵做特征值分解，得到k个特征值及其对应的特征向量，将特征值降序排列；
[0045]
因为矩阵是对称且半正定的矩阵，对矩阵进行奇异值分解即：
[0046][0047]
上列公式中，的特征值组成的对角矩阵就是λ；的特征向量就是u。对矩阵的特征值从大到小进行排序。
[0048]
步骤4：求出降维后的样本x。
[0049]
选取前a个较大的特征值及其对应的特征向量，再由可推算出降维后的样本x。
[0050]
进一步地，所述第四步的具体步骤如下：
[0051]
步骤1：将降维后样本数据按一定比例分为训练集、验证集和测试集；
[0052]
步骤2：利用训练集中数据构建xgboost模型；
[0053]
具体的，对于一个有n个样本、m个特征的数据集d＝{(xi，yi)}(xi∈rm，yi∈r)，k棵cart最终预测输出为：
[0054][0055]
f＝{f(x)＝ω
q(x)
}，q：rm→
t，ω∈r
t
[0056]
其中，每个函数fk对应一棵独立的树结构向量q和叶子权重ω，q由样本指向相应的叶子标签，每棵cart的每个叶子节点对应一个连续分数值，即权重，第i个节点的分数为ωi；t为叶子节点个数；f为cart构成的集合；ω
q(x)
为对样本x的打分，即模型预测值。对于每个样本，各cart依据不同分类规则将其分类到叶子节点中，通过累加对应叶子的分数ω获得最终的预测结果。
[0057]
步骤3：设置xgboost模型的初始参数并进行预训练，利用ga不断对模型参数进行调整；
[0058]
具体的，选取迭代次数、学习率η、决策树的最大深度d
max
、随机样本的抽取比例r
subsample
、特征的抽取比例r
colsample
和决策树节点分裂标准γ
split
这6个超参数，采用ga进行优化，以提高诊断模型的性能。
[0059]
步骤4：判断是否达到最大迭代次数或者终止条件，若达到则将此时的训练参数值作为模型的最优参数，否则返回步骤3；
[0060]
步骤5：进行十折交叉验证，对模型的诊断效果进行测试，输出故障分类结果。
[0061]
进一步地，所述第五步的具体步骤如下：
[0062]
步骤1：将采集到的变压器故障样本数据标准化处理，并采用无编码比值法构造油中溶解气体特征，得到特征数据；
[0063]
步骤2：对特征数据采用mds方法进行特征融合，得到融合数据；
[0064]
步骤3：将融合数据导入训练后的xgboost模型，判断故障类型。
[0065]
本发明的有益效果为：
[0066]
本发明提出一种不平衡样本条件下的变压器故障在线诊断方法。首先，该方法以dga数据作为模型的特征量，标准化处理后构造油中溶解气体特征；其次，使用nntr-smote过采样方法得到平衡数据，对平衡数据采用多维尺度分析(mds)方法进行特征融合；再次，构建xgboost模型，利用ga算法对模型参数不断寻优，根据最优参数构建变压器故障诊断模型：最后，利用训练后的xgboost模型进行变压器故障在线诊断。所提出的方法能准确判别变压器的故障状态，有效的解决故障数据不平衡导致分类精度低的问题，进而为变压器故障在线诊断提供辅助决策。
附图说明
[0067]
图1是本发明所涉及方法的流程框图。
[0068]
图2是实施例采样前后训练数据特征分布对比图。
[0069]
图3是实施例不同输入特征的诊断结果图。
具体实施方式
[0070]
为了使本发明的目的、技术方案及优势更加清晰，下面结合附图和具体实施例对本发明做进一步详细说明。此处所描述的具体实施例仅用以解释本发明，并不用于限定本
发明。
[0071]
第一步，将采集到的变压器故障样本数据标准化处理，使用最近邻三角区域合成少数类过采样(nntr-smote)方法得到平衡数据，具体步骤如下：
[0072]
s101：收集变压器dga样本数据
[0073]
其中，n为采集的油中溶解气体数量，m为采集的样本数量。
[0074]
具体的，油中的溶解气体包括h2、ch4、c2h4、c2h2、c2h6，根据变压器故障出现的温度和放电能量的不同将可变压器故障类型分别是：正常、中温过热、中低温过热、高温过热、放电兼过热、局部放电、低能放电和高能放电，并标签1到8。
[0075]
s102：将采集到的故障样本数据进行z-score标准化处理，得到标准化样本数据
[0076][0077]
具体的，z-score标准化处理公式为：
[0078][0079]
其中，μ为x数据集合的均值，σ为数据集元素的标准差，x
′
为x标准化之后的结果。
[0080]
s103：利用最近邻三角区域合成少数类过采样(nntr-smote)方法得到平衡数据；
[0081]
具体的，假设多数类样例个数为m，少数类样例个数为p，计算少数类采样倍率n。
[0082]
n＝(m-p)/p
[0083]
选取少数类任意样例y0，在y0的2个近邻少数类样例y1和y2中产生一个新的人工样例y
′
new
，公式为：
[0084]y′
new
＝y2+rand(0，1)[y0+rand(0，1)(y
1-y0)-y2]
[0085]
其中，rand(0，1)表示0～1之间的一个随机数。
[0086]
当所有人工样例都产生后，还需要对其最近邻样例进行检测，如果最近邻样例是同类，保留该样例；如果是异类则删除该样例。再计算采样倍率，合成人工样例，直到采样倍率为0。
[0087]
第二步，采用无编码比值法构造油中溶解气体特征，得到特征数据集，具体步骤如下：
[0088]
s201：对标准化处理后的故障样本数据采用无编码比值法构造油中溶解气体特征；
[0089]
具体的油中溶解气体特征如下：ch4/h2、c2h2/h2、c2h2/c2h4、c2h4/c2h6、c2h6/ch4、c2h2/ch4、c2h4/ch4、h2/thc、ch4/thc、c2h4/thc、c2h6/thc、c2h2/thc、(ch4+c2h4)/thc、h2/all、ch4/all、c2h2/all、c2h4/all、c2h6/all。
[0090]
其中，thc＝ch4+c2h2+c2h4+c2h6，all＝h2+ch4+c2h2+c2h4+c2r6。
[0091]
第三步，对特征数据集采用多维尺度分析(mds)方法进行特征融合，具体步骤如下：
[0092]
s301：计算m个d维样本之间的欧氏距离σ，生成距离矩阵δ；
[0093]
有724个18维样本，样本间的欧式距离定义为：
[0094][0095]
式中，σ
ij
为第i个样本和第j个样本间的距离，即：
[0096][0097]
s302：计算降维后样本的内积矩阵，即求δ的双重中心化矩阵
[0098]
通过对距离阵δ的双重中心化矩阵进行奇异值分解，可以得到矩阵x的求解，矩阵δ的双重中心化矩阵为：
[0099][0100]
式中，式中，表达式为：
[0101][0102]
s303：对内积矩阵做特征值分解，得到k个特征值及其对应的特征向量，将特征值降序排列；
[0103]
因为矩阵是对称且半正定的矩阵，对矩阵进行奇异值分解即：
[0104][0105]
上列公式中，的特征值组成的对角矩阵就是λ；的特征向量就是u。对矩阵的特征值从大到小进行排序。
[0106]
s304：求出降维后的样本x。
[0107]
选取前8个较大的特征值及其对应的特征向量，再由可推算出降维后的样本x。
[0108]
第四步，利用ga算法用以xgboost模型参数的优化，构建变压器故障诊断模型，最后进行十折交叉验证实现变压器故障诊断，具体步骤如下：
[0109]
s401：将降维后样本数据按一定比例分为训练集、验证集和测试集；
[0110]
s402：利用训练集中数据构建xgboost模型；
[0111]
具体的，对于一个有n个样本、m个特征的数据集d＝{(xi，yi)}(xi∈rm，yi∈r)，k棵cart最终预测输出为：
[0112][0113]
f＝{f(x)＝ω
q(x)
}，q：rm→
t，ω∈r
t
[0114]
其中，每个函数fk对应一棵独立的树结构向量q和叶子权重ω，q由样本指向相应的叶子标签，每棵cart的每个叶子节点对应一个连续分数值，即权重，第i个节点的分数为ωi；t为叶子节点个数；f为cart构成的集合；ω
q(x)
为对样本x的打分，即模型预测值。对于每个样本，各cart依据不同分类规则将其分类到叶子节点中，通过累加对应叶子的分数ω获得最终的预测结果。
[0115]
s403：设置xgboost模型的初始参数并进行预训练，利用ga不断对模型参数进行调整；
[0116]
具体的，选取迭代次数、学习率η、决策树的最大深度d
max
、随机样本的抽取比例r
subsample
、特征的抽取比例r
colsample
和决策树节点分裂标准γ
split
这6个超参数，采用ga进行优化，以提高诊断模型的性能。
[0117]
s404：判断是否达到最大迭代次数或者终止条件，若达到则将此时的训练参数值作为模型的最优参数，否则返回步骤3；
[0118]
s405：进行十折交叉验证，对模型的诊断效果进行测试，输出故障分类结果。
[0119]
第五步，利用训练后的xgboost模型进行变压器故障在线诊断，具体步骤如下：
[0120]
s501：将采集到的变压器故障样本数据标准化处理，并采用无编码比值法构造油中溶解气体特征，得到特征数据；
[0121]
s502：对特征数据采用mds方法进行特征融合，得到融合数据；
[0122]
s503：将融合数据导入训练后的xgboost模型，判断故障类型。
[0123]
实施例：
[0124]
首先收集变压器故障样本425例，其中包括正常91例、中温过热46例、中低温过热33例、高温过热53例、放电兼过热17例、局部放电29例、低能放电72例和高能放电84例。
[0125]
利用nntr-smote过采样算法对少数类故障样本进行扩充，处理前后的样本数量分布如表1所示。
[0126]
表1样本数量处理前后对比
[0127][0128]
本实施例选择xgboost模型作为分类器，采用ga算法优化xgboost模型的学习能力和分类性能。将降维后样本数据按6∶2∶2划分为训练集、验证集与测试集。xgboost的初始参数预设为：学习率η＝0.3；、决策树节点分裂标准γ
split
＝0；决策树的最大深度d
max
＝6；、随机样本的抽取比例r
subsample
＝1；特征的抽取比例r
colsample
＝1；当得到最大迭代次数时，得到最优ga-xgboost分类器，最后将测试集输入至最优分类器中，得到分类结果如下图2所示。
[0129]
为说明基于mds特征融合方法的优越性，与iec三比值法、rogers四比值法和18维联合特征输入ga-xgboost最优分类器中进行故障诊断，诊断结果如图3所示。
[0130]
为验证本方法的优越性，将ga-xgboost、pso-xgboost、xgboost、svm、elm共5种模型进行对比分析，对所有模型均采用十折交叉验证，模型诊断准确率见表2。
[0131]
表2多模型诊断准确率对比
[0132][0133]
由表2可以看出：本方法在不平衡小样本条件下具有较高的准确率。
[0134]
最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解；其依然可以对前述实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；因而这些修改或者替换，并不使相应技术方案的本质脱离本发明权利要求所限定的范围。

技术特征：
1.一种基于nntr-smote过采样处理不平衡小样本的变压器故障在线诊断方法，其特征在于，包括以下步骤：第一步，将采集到的变压器故障样本数据标准化处理，使用最近邻三角区域合成少数类过采样(nntr-smote)方法得到平衡数据；第二步，采用无编码比值法构造油中溶解气体特征，得到特征数据集；第三步，对特征数据集采用多维尺度分析(mds)方法进行特征融合；第四步，利用ga算法用以xgboost模型参数的优化，构建变压器故障诊断模型，最后进行十折交叉验证实现变压器故障诊断。第五步，利用训练后的xgboost模型进行变压器故障在线诊断。2.根据权利要求1所述的一种不平衡小样本条件下的变压器故障在线诊断方法，其特征在于，所述第一步的具体步骤如下：步骤1：收集变压器dga样本数据其中，n为采集的油中溶解气体数量，m为采集的样本数量。具体的，油中的溶解气体包括h2、ch4、c2h4、c2h2、c2h6，根据变压器故障出现的温度和放电能量的不同将可变压器故障类型分别是：正常、中温过热、中低温过热、高温过热、放电兼过热、局部放电、低能放电和高能放电，并标签1到8。步骤2：将采集到的故障样本数据进行z-score标准化处理，得到标准化样本数据具体的，z-score标准化处理公式为：其中，μ为x数据集合的均值，σ为数据集元素的标准差，x
′
为x标准化之后的结果。步骤3：利用最近邻三角区域合成少数类过采样(nntr-smote)方法得到平衡数据；具体的，假设多数类样例个数为m，少数类样例个数为p，计算少数类采样倍率n。n＝(m-p)/p选取少数类任意样例y0，在y0的2个近邻少数类样例y1和y2中产生一个新的人工样例y
′
new
，公式为：y
′
new
＝y2+rand(0，1)[y0+rand(0，1)(y
1-y0)-y2]其中，rand(0，1)表示0～1之间的一个随机数。当所有人工样例都产生后，还需要对其最近邻样例进行检测，如果最近邻样例是同类，保留该样例；如果是异类则删除该样例。再计算采样倍率，合成人工样例，直到采样倍率为0。3.根据权利要求1所述的一种不平衡小样本条件下的变压器故障在线诊断方法，其特征在于，所述第二步的具体步骤如下：步骤1：对标准化处理后的故障样本数据采用无编码比值法构造油中溶解气体特征；
具体的油中溶解气体特征如下：ch4/h2、c2h2/h2、c2h2/c2h4、c2h4/c2h6、c2h6/ch4、c2h2/ch4、c2h4/ch4、h2/thc、ch4/thc、c2h4/thc、c2h6/thc、c2h2/thc、(ch4+c2h4)/thc、h2/all、ch4/all、c2h2/all、c2h4/all、c2h6/all。其中，thc＝ch4+c2h2+c2h4+c2h6，all＝h2+ch4+c2h2+c2h4+c2h6。4.根据权利要求1所述的一种不平衡小样本条件下的变压器故障在线诊断方法，其特征在于，所述第三步的具体步骤如下：步骤1：计算m个d维样本之间的欧氏距离σ，生成距离矩阵δ；假设有m个d维样本，样本间的欧式距离定义为：式中，σ
ij
为第i个样本和第j个样本间的距离，即：步骤2：计算降维后样本的内积矩阵，即求δ的双重中心化矩阵通过对距离阵δ的双重中心化矩阵进行奇异值分解，可以得到矩阵x的求解，矩阵δ的双重中心化矩阵为：式中，δ
(2)
＝σ
ij2
，表达式为：步骤3：对内积矩阵做特征值分解，得到k个特征值及其对应的特征向量，将特征值降序排列；因为矩阵是对称且半正定的矩阵，对矩阵进行奇异值分解即：上列公式中，的特征值组成的对角矩阵就是λ；的特征向量就是u。对矩阵的特征值从大到小进行排序。步骤4：求出降维后的样本x。选取前a个较大的特征值及其对应的特征向量，再由可推算出降维后的样本x。5.根据权利要求1所述的一种不平衡小样本条件下的变压器故障在线诊断方法，其特征在于，所述第四步的具体步骤如下：步骤1：将降维后样本数据按一定比例分为训练集、验证集和测试集；
步骤2：利用训练集中数据构建xgboost模型；具体的，对于一个有n个样本、m个特征的数据集d＝{(x
i
，y
i
)}(x
i
∈r
m
，y
i
∈r)，k棵cart最终预测输出为：f＝{f(x)＝ω
q(x)
}，q：r
m
→
t，ω∈r
t
其中，每个函数f
k
对应一棵独立的树结构向量q和叶子权重ω，q由样本指向相应的叶子标签，每棵cart的每个叶子节点对应一个连续分数值，即权重，第i个节点的分数为ω
i
；t为叶子节点个数；f为cart构成的集合；ω
q(x)
为对样本x的打分，即模型预测值。对于每个样本，各cart依据不同分类规则将其分类到叶子节点中，通过累加对应叶子的分数ω获得最终的预测结果。步骤3：设置xgboost模型的初始参数并进行预训练，利用ga不断对模型参数进行调整；具体的，选取迭代次数、学习率η、决策树的最大深度d
max
、随机样本的抽取比例r
subsample
、特征的抽取比例r
colsample
和决策树节点分裂标准γ
split
这6个超参数，采用ga进行优化，以提高诊断模型的性能。步骤4：判断是否达到最大迭代次数或者终止条件，若达到则将此时的训练参数值作为模型的最优参数，否则返回步骤3；步骤5：进行十折交叉验证，对模型的诊断效果进行测试，输出故障分类结果。6.根据权利要求1所述的一种不平衡小样本条件下的变压器故障在线诊断方法，其特征在于，所述第五步的具体步骤如下：步骤1：将采集到的变压器故障样本数据标准化处理，并采用无编码比值法构造油中溶解气体特征，得到特征数据；步骤2：对特征数据采用mds方法进行特征融合，得到融合数据；步骤3：将融合数据导入训练后的xgboost模型，判断故障类型。

技术总结
本发明公开了一种基于NNTR-SMOTE过采样处理不平衡小样本的变压器故障在线诊断方法，分为五步：第一步，将采集到的变压器故障样本数据标准化处理，使用最近邻三角区域合成少数类过采样(NNTR-SMOTE)方法得到平衡数据；第二步，采用无编码比值法构造油中溶解气体特征，得到特征数据集；第三步，对特征数据集采用多维尺度分析(MDS)方法进行特征融合；第四步，利用GA算法用以XGBoost模型参数的优化，构建变压器故障诊断模型，最后进行十折交叉验证实现变压器故障诊断。第五步，利用训练后的XGBoost模型进行变压器故障在线诊断。该发明能够有效解决对不平衡故障样本的误判和漏判问题，提升模型的诊断精度。模型的诊断精度。模型的诊断精度。


技术研发人员：汪李忠 朱鹏 唐洪良 高俊青 陈悦 周潮 姚海燕 崔金栋 郭强
受保护的技术使用者：国网浙江省电力有限公司杭州市余杭区供电公司 国网浙江省电力有限公司杭州市临平区供电公司 国网浙江省电力有限公司杭州供电公司
技术研发日：2023.05.31
技术公布日：2023/9/6