一种基于极限学习机的分类器参数辨识方法

1.本发明涉及分类器参数辨识技术领域，特别是涉及极限学习机的分类器参数辨识方法。


背景技术：

2.随着工程应用上的要求越来越高，人们对图片或者文本等需分类的对象进行预处理以及正确分类的方法也在不断更新发展，而机器学习就是当前进行分类操作的主流方法之一；大部分数学模型的构造都离不开系统辨识，多新息理论是系统辨识的分支，它的基本思想是扩展创新长度和充分利用来自数据的有用信息；换句话说，多新息理论引入了移动数据窗口建模学习的信息不仅包含当前信息，还包含一些以前的信息；在机器学习中，极限学习机(extremelearningmachine，elm)由于其简单的单隐层前馈神经网络结构，以及输入层采用随机赋值输入权值从而在训练时不用再反复学习的特性，相比于其他传统的机器学习算法，elm在保证算法精度的基础上在训练速度上有一定优势，而其内核版本核极限学习机(elmwithkernel，kelm)改变原始elm映射方式为核函数隐性映射，在保留原有优势的同时降低了不确定性，提高了算法的性能；因此kelm也被广泛应用于分类器参数辨识领域；
3.实际工程应用过程中，会有不同的新的数据输入，如果只取过往的数据当做依据，对于分类器的性能保住有着一定的难度，在复杂的现实环境中，所采集的输入数据极为嘈杂，甚至一些输入数据在本质上有可能对于分类器参数的辨识是不利的，因此，在分类器参数辨识方法中尽量减少甚至排除不利数据对参数辨识的影响的能力变得十分重要。


技术实现要素：

4.本发明提供一种基于极限学习机的分类器参数辨识方法，解决极限学习机对于相关性较差的不利数据的处理能力受限问题，提高极限学习机模型分类精度。
5.为实现上述效果，本发明的技术方案如下：
6.一种基于极限学习机的分类器参数辨识方法，包括以下步骤：
7.步骤1：获取分类数据集，对分类数据集划分训练数据集和测试数据集；其中，训练数据集中每个元素为每一次在线训练的输入(x,y)，含m个数据，x为n维列向量，n表示每一个输入样本中的特征数量；y为t维输出列向量，t表示类别数量，并对训练数据集和测试数据集内的数据进行归一化处理；
8.步骤2：构造极限学习机模型，采用改良的鲸鱼优化算法获取多新息极限学习机的最佳初始化参数：正则化因子c、核函数参数γ；其中，鲸鱼优化算法其改良过程为：引入自适应权重策略、莱维飞行搜索扰动机制对鲸鱼优化算法的鲸鱼个体进行位置更新；
9.步骤3：利用训练数据集对极限学习机模型进行在线训练，用结构风险损失函数对极限学习机模型进行模型评估，进行输出权重的辨识更新，完成对所获数据集的分类训练；
10.步骤4：将待分类的测试数据集输入到步骤3在线训练后的多新息极限学习机模型中，在线识别获得测试数据集的类别，若有新的数据输入，重复步骤3，对新输入的分类数据
集进行分类。
11.上述方案中，极限学习机为多新息核极限学习机模型；本发明结合多新息理论与极限学习机，在线训练过程中建立一个多数据移动窗口，提高了数据利用率，加强了模型与当前数据的联系，也为极限学习机算法在精度上的优化提供了有效思路。多新息理论引入了移动数据窗口建模学习的信息不仅包含当前信息，还包含一些以前的信息；极限学习机作为优化算法，将显性映射转化为隐性映射。
12.进一步的，步骤2中极限学习机基础模型如下所示：
13.hβ＝y(1)
14.式中，y为极限学习机模型，即线性矩阵方程，β＝[β1,β2,...,βi]
t
为极限学习机的输出权重，βi＝[β
i1
,β
i2
,...,β
it
]，极限学习机输出权重的维度取决于极限学习机隐含层节点数i以及输出标签类的数量t；h为特征映射矩阵，表示为：
[0015][0016]
式中，g()为激活函数，(a,b)是极限学习机输入层与隐含层之间的输入权重，输入权重为随机赋值；
[0017]
通过求解极限学习机模型(1)所在线性矩阵方程，得到最小二乘解β，最小二乘解β即为极限学习机的输出权重，极限学习机的输出权重转化为以下形式；
[0018]
β＝h
t
(i/c+hh
t
)-1
y(3)
[0019]
式中，c表示正则化因子，是一个常量；i是对应维度的单位矩阵。
[0020]
进一步的，步骤2获取多新息极限学习机的最佳初始化参数，具体包括如下步骤：
[0021]
步骤2.1：设置鲸鱼优化算法的初始化参数，初始化参数包括鲸鱼种群数量n、维度数d、最大迭代次数t_max、鲸鱼种群在各个维度的上下限取值范围ud；
[0022]
步骤2.2：采取网格搜索的策略在需要的范围内搜索鲸鱼种群x＝{x1,x2,...,xn}，其中，xi(i＝1,2,...,n)表示第i个鲸鱼个体的位置信息，xi＝{x
i1
,x
i2
,...,x
id
}，x
ij
(j＝1,2,...,d)表示第i个鲸鱼个体第j维的位置信息；
[0023]
步骤2.3：使用f-score评判标准计算每一个鲸鱼种群中鲸鱼个体的适应度函数值f，并筛选保留最优的适应度值f
best
，将最优的适应度值f
best
对应的最佳鲸鱼个体x
best
作为当前的全局最优解；
[0024]
步骤2.4：引入自适应权重策略、莱维飞行搜索扰动机制对鲸鱼优化算法的鲸鱼个体进行位置更新，完成对鲸鱼优化算法的改良；即引入自适应权重策略作用于最佳鲸鱼个体x
best
，调整最佳鲸鱼个体x
best
的权重比例，充分发挥鲸鱼个体在位置更新中的作用；引入莱维飞行搜索扰动机制，增强鲸鱼优化算法跳出局部最优的能力；
[0025]
步骤2.5：使用一种变异改良机制对鲸鱼优化算法进行迭代更新，即根据人为设定条件概率进行高斯变异，使用优胜劣汰机制，若更新或变异后鲸鱼种群x
t
的适应度值优于前一次迭代的最佳鲸鱼个体x
best
，则当前的全局最优解替换为x
t
；若更新或变异后鲸鱼种群x
t
的适应度值劣于前一次迭代的最佳鲸鱼个体x
best
，则当前的全局最优解为前一次迭代的最佳鲸鱼个体x
best
，直到迭代次数t达到最大迭代次数t_max时结束更新。
[0026]
进一步的，步骤2.3中适应度函数值f为：
[0027][0028]
式中，classes为分类类别数量；recalli为召回率，precisioni为精确率，表示为：
[0029][0030]
其中，tpi、fpi、tni和fni分别表示分类中真阳性、假阳性、真阴性和假阴性结果的数量。
[0031]
进一步的，步骤2.4中鲸鱼个体的位置更新如下式所示：
[0032][0033]
式中，t为迭代次数，q是一个(0,1)之间随机生成的概率；a＝a
·
(2r1-1)为系数向量，a为从2线性减小到0线性的收敛因子，bl为[0,1]之间的随机数，b为对数螺旋形常数，通常b＝1，l表示[-1,1]之间的随机数；ω为自适应权重策略。
[0034]
进一步的，步骤2.4中莱维飞行搜素扰动机制中，α为随机步长，s为扰动步长，s计算公式如下：
[0035][0036]
式中，u和v为标准正态分布随机数；λ为[0,2]之间的随机数，γ()为伽马函数。
[0037]
进一步的，步骤2.5中变异改良机制如下式所示：
[0038]
x
new
＝x(t+1)(1+gaussion(τ)),(8)
[0039][0040]
式中，x
new
为x(t+1)更新后鲸鱼种群，gaussion()为高斯函数，τ为高斯核参数；x(t+1)为下一迭代次数的鲸鱼种群。
[0041]
进一步的，步骤3中结构风险损失函数如下式所示：
[0042][0043]
式中，p为新息长度，β＝[β1,β2,
…
,βi]
t
,βi＝[β
i1
,β
i2
,
…
,β
it
],,y(p,j)和φ(p,j)分别是基于新息长度p的输出滑动窗口和特征映射矩阵；所述输出滑动窗口y(p,j)和特征
映射矩阵φ(p,j)定义如下所示：
[0044][0045]
式中，h(j)为显性映射向量；
[0046]
求解结构风险损失函数方程(10)，得到输出权重β：
[0047]
β＝(i/c+φ(p,m)φ
t
(p,m))-1
y(p,m)(12)。
[0048]
进一步的，步骤3中输出权重的辨识更新具体包括：
[0049]
步骤3.1：获取包含m个样本的训练数据集，将训练数据集记为(xi,yi)，i＝1，2,...,m，其中xi＝[x
i1
,x
i2
,...,x
in
]
t
，yi＝[y
i1
,y
i2
,
…
,y
it
]
t
，取d＝m/10的分类数据集作为测试数据集，剩余的9m/10的分类数据集作为训练数据集用于实时更新训练；
[0050]
步骤3.2：将显性特征映射方式转变为隐性映射；训练数据集为输入数据，利用核函数k(xi,xj)与输入数据构造核矩阵ω＝hh
t
，经由公式推导，结合多新息理论下的核矩阵ωm；选择核矩阵ωd，利用公式(13)获得初始输出权重β1＝(i
p
/c+ωd)-1
yd；
[0051]
β＝(i/c+ω)-1
y(13)
[0052][0053]
步骤3.3：根据核矩阵ωd以及初始输出权重β1计算误差e1＝y
d-ωd·
β1，每一次更新核矩阵ω和输出权重β后都计算误差项em，再根据公式(14)计算新的核矩阵ωm，经由推导根据核矩阵ωm、误差项em以及β
m-1
对输出权重βm进行在线更新。
[0054]
进一步的，步骤3.3中输出权重βm表示为：
[0055][0056]
式中，nm＝β
m-1
ωm(:,1:p(m-1))，rn＝i
p
/c+ωm(:,p(m-1)+1:pm)。
[0057]
上述方案中，本发明提出了一种基于极限学习机的分类器参数辨识方法，结合多新息理论方法对极限学习机算法分类器进行优化，通过建立一个滑动数据窗口提高对过往数据的利用率，增加了当前数据与过去所构模型之间的联系；在预处理采集到的分类数据集之后，利用该优化方法进行在线训练完成模型实时构造，进而完成对待分类数据的分类，提高了分类器参数辨识的精度，同时利用鲸鱼优化算法优化模型参数初始化，以达到模型效果最优的目的。
[0058]
与现有技术相比，本发明技术方案的有益效果是：
[0059]
本发明极限学习机模型训练更新的过程减少了非必要的重复训练，节省了时间，解决了极限学习机对于相关性较差的不利数据的处理能力受限问题，提高了极限学习机模型分类精度，使用变异改良机制进行迭代更新，使本发明极限学习机模型达到最优分类效果。
附图说明
[0060]
附图仅用于示例性说明，不能理解为对本发明的限制；为了更好说明本实施例，附图某些部件会有省略、放大或缩小，并不代表实际产品的尺寸；对于本领域技术人员来说，附图中某些公知结构及其说明可能省略是可以理解的。
[0061]
图1是本发明基于极限学习机的分类器参数辨识方法流程示意图；
[0062]
图2是本发明在不同p值下数据集ecoli的分类情况示意图；
[0063]
图3是本发明改良的鲸鱼算法在musk(version1)数据集下与其他基于群的优化算法的优化效果对比曲线示意图。
具体实施方式
[0064]
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整的描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都是本发明保护的范围。
[0065]
实施例1
[0066]
为了便于理解，请参阅图1，一种基于极限学习机的分类器参数辨识方法，包括以下步骤：
[0067]
步骤1：获取分类数据集，对分类数据集划分训练数据集(x,y)和测试数据集(tx,ty)；其中，训练数据集中每个元素为每一次在线训练的输入(x,y)，含m个数据，x为n维列向量，n表示每一个输入样本中的特征数量；y为t维输出列向量，t表示类别数量，一般y表示为标签向量；并对训练数据集和测试数据集内的数据进行归一化处理；
[0068]
其中，分类数据集选用uci(universityofcaliforniairvine)数据集。
[0069]
步骤2：构造极限学习机模型，采用改良的鲸鱼优化算法获取多新息极限学习机的最佳初始化参数：正则化因子c、核函数参数γ；其中，鲸鱼优化算法其改良过程为：引入自适应权重策略、莱维飞行搜索扰动机制对鲸鱼优化算法的鲸鱼个体进行位置更新；
[0070]
其中，极限学习机模型如下所示：
[0071]
hβ＝y(1)
[0072]
式中，y为极限学习机模型，即线性矩阵方程，β＝[β1,β2,
…
,βi]
t
为极限学习机的输出权重，βi＝[β
i1
,β
i2
,
…
,β
it
]，极限学习机输出权重的维度取决于极限学习机隐含层节点数i以及输出标签类的数量t；h为特征映射矩阵，表示为：
[0073][0074]
式中，g()为激活函数，(a,b)是极限学习机输入层与隐含层之间的输入权重，输入权重为随机赋值；
[0075]
通过求解极限学习机模型(1)所在线性矩阵方程，得到最小二乘解β，最小二乘解β即为极限学习机的输出权重，极限学习机的输出权重转化为以下形式；
[0076]
β＝h
t
(i/c+hh
t
)-1
y(3)
[0077]
式中，c表示正则化因子，是一个常量；i是对应维度的单位矩阵。
[0078]
在具体实施过程中，获取多新息极限学习机的最佳初始化参数，具体包括如下步骤：步骤2.1：设置鲸鱼优化算法的初始化参数，初始化参数包括鲸鱼种群数量n、维度数d、最大迭代次数t_max、鲸鱼种群在各个维度的上下限取值范围ud；
[0079]
步骤2.2：采取网格搜索的策略在需要的范围内搜索鲸鱼种群x＝{x1,x2,...,xn}，其中，xi(i＝1,2,...,n)表示第i个鲸鱼个体的位置信息，xi＝{x
i1
,x
i2
,...,x
id
}，x
ij
(j＝1,2,...,d)表示第i个鲸鱼个体第j维的位置信息；
[0080]
步骤2.3：使用f-score评判标准计算每一个鲸鱼种群中鲸鱼个体的适应度函数值f，并筛选保留最优的适应度值f
best
，将最优的适应度值f
best
对应的最佳鲸鱼个体x
best
作为当前的全局最优解；
[0081]
在具体实施过程中，适应度函数值f为：
[0082][0083]
式中，classes为分类类别数量；recalli为召回率，precisioni为精确率，表示为：
[0084][0085]
其中，tpi、fpi、tni和fni分别表示分类中真阳性、假阳性、真阴性和假阴性结果的数量。
[0086]
步骤2.4：引入自适应权重策略、莱维飞行搜索扰动机制对鲸鱼优化算法的鲸鱼个体进行位置更新，完成对鲸鱼优化算法的改良；即引入自适应权重策略作用于最佳鲸鱼个体x
best
，调整最佳鲸鱼个体x
best
的权重比例，充分发挥鲸鱼个体在位置更新中的作用；引入莱维飞行搜索扰动机制，增强鲸鱼优化算法跳出局部最优的能力；
[0087]
在具体实施过程中，鲸鱼个体的位置更新如下式所示：
[0088][0089]
式中，t为迭代次数，q是一个(0,1)之间随机生成的概率；a＝a
·
(2r1-1)为系数向量，a为从2线性减小到0线性的收敛因子，bl为[0,1]之间的随机数，b为对数螺旋形常数，通常b＝1，l表示[-1,1]之间的随机数；ω为自适应权重策略。
[0090]
在具体实施过程中，步骤2.4中莱维飞行搜素扰动机制中，α为随机步长，s为扰动步长，s计算公式如下：
[0091][0092]
式中，u和v为标准正态分布随机数；λ为[0,2]之间的随机数，γ()为伽马函数。
[0093]
步骤2.5：使用一种变异改良机制对鲸鱼优化算法进行迭代更新，即根据人为设定条件概率进行高斯变异，使用优胜劣汰机制，若更新或变异后鲸鱼种群x
t
的适应度值优于前一次迭代的最佳鲸鱼个体x
best
，则当前的全局最优解替换为x
t
；若更新或变异后鲸鱼种群x
t
的适应度值劣于前一次迭代的最佳鲸鱼个体x
best
，则当前的全局最优解为前一次迭代的最佳鲸鱼个体x
best
，直到迭代次数t达到最大迭代次数t_max时结束更新。
[0094]
在具体实施过程中，变异改良机制如下式所示：
[0095]
x
new
＝x(t+1)(1+gaussion(τ)),(8)
[0096][0097]
式中，x
new
为x(t+1)更新后鲸鱼种群，gaussion()为高斯函数，τ为高斯核参数；x(t+1)为下一迭代次数的鲸鱼种群。
[0098]
需要说明的是，本发明对鲸鱼优化算法进行改良：在位置更新阶段引入了自适应权重和莱维飞行机制，位置更新后有一个依概率(人为设定)执行的高斯变异。
[0099]
步骤3：利用训练数据集对极限学习机模型进行在线训练，用结构风险损失函数对极限学习机模型进行模型评估，进行输出权重的辨识更新，完成对所获数据集的分类训练，完善极限学习机模型参数；
[0100]
其中，结构风险损失函数如下式所示：
[0101][0102]
式中，p为新息长度，β＝[β1,β2,
…
,βi]
t
,βi＝[β
i1
,β
i2
,
…
,β
it
],,y(p,j)和φ(p,j)分别是基于新息长度p的输出滑动窗口和特征映射矩阵；所述输出滑动窗口y(p,j)和特征映射矩阵φ(p,j)定义如下所示：
[0103][0104]
式中，h(j)为显性映射向量；
[0105]
求解结构风险损失函数方程(10)，得到输出权重β：
[0106]
β＝(i/c+φ(p,m)φ
t
(p,m))-1
y(p,m)(12)。
[0107]
需要说明的是，11式中，j为一个从1到m的数，当j＝m时，√(p,j)和√(p,m)相同。
[0108]
具体的，步骤3中输出权重的辨识更新具体包括：
[0109]
步骤3.1：获取包含m个样本的训练数据集，将训练数据集记为(xi,yi)，i＝1，2,...,m，其中xi＝[x
i1
,x
i2
,...,x
in
]
t
，yi＝[y
i1
,y
i2
,
…
,y
it
]
t
，取d＝m/10的分类数据集作为
测试数据集，剩余的9m/10的分类数据集作为训练数据集用于实时更新训练；
[0110]
步骤3.2：将显性特征映射方式转变为隐性映射；训练数据集为输入数据，利用核函数k(xi,xj,γ)与输入数据构造核矩阵ω＝hh
t
，经由公式推导，结合多新息理论下的核矩阵ωm；选择核矩阵ωd，利用公式(13)获得初始输出权重β1＝(i
p
/c+ωd)-1
yd；
[0111]
β＝(i/c+ω)-1
y(13)
[0112][0113]
步骤3.3：根据核矩阵ωd以及初始输出权重β1计算误差e1＝y
d-ωd·
β1，每一次更新核矩阵ω和输出权重β后都计算误差项em，再根据公式(14)计算新的核矩阵ωm，经由推导根据核矩阵ωm、误差项em以及β
m-1
对输出权重βm进行在线更新。
[0114]
在具体实施过程中，输出权重βm表示为：
[0115][0116]
式中，nm＝β
m-1
ωm(:,1:p(m-1))，rn＝i
p
/c+ωm(:,p(m-1)+1:pm)；
[0117]
需要说明的是，ip为p维单位矩阵，ωm(:,1:p(m-1))表示由矩阵ωm的所有行以及第一列到第p(m-1)列的所有元素组成的矩阵，后面ωm(:,p(m-1)+1:pm)解释类似。核函数k(xi,xj,γ)与输入数据构造核矩阵ω＝hh
t
是由极限学习机到极限学习机的转变，由显性映射到隐性映射，因此才有多新息(核)极限学习机。
[0118]
如若有新的相似数据集引入需要重新训练，可以直接通过上本发明参数辨识的方法，在已经训练好的极限学习机模型基础上继续进行步骤3.3更新模型参数。
[0119]
步骤4：将待分类的测试数据集输入到步骤3在线训练后的多新息极限学习机模型中，在线识别获得测试数据集的类别，若有新的数据输入，重复步骤3，对新输入的分类数据集进行分类。
[0120]
本发明极限学习机模型训练更新的过程减少了非必要的重复训练，节省了时间，解决了极限学习机对于相关性较差的不利数据的处理能力受限问题，提高了极限学习机模型分类精度。
[0121]
实施例2
[0122]
具体地，在实施例1的基础上，结合具体的实施例子对方案进行说明，进一步体现本方案的技术效果。具体为：
[0123]
在本发明另一实施例中，图2是在不同新息长度p值下数据集ecoli的样本类别的分类情况示意图，可以看出，p＝1的情况下，分类错误个数相对较高(没有与图中ac重合的即为分类错误，ec是预测结果)。相对于p＝1的情况，随着p值的增加，参数辨识效果更佳(p＝7为最佳，对应表2ecoli数据集准确率)，证明本发明算法是有效的。
[0124]
图3是改良的鲸鱼算法在musk(version1)数据集下与其他基于群的优化算法的优化效果对比曲线示意图，图3中图例后缀mikoselm是本发明所提出分类器参数辨识方法多新息核在线的极限学习机；图例前缀(de、pso、ga、mwoa、woa)为所结合的群智能优化算法，
分别表示为差分进化算法、粒子群优化算法、遗传算法、本发明鲸鱼优化算法、鲸鱼优化算法。
[0125]
为了验证本发明方案的有效性，进行仿真测试例，测试例目标一是验证极限学习机算法在不同新息长度p值下相对极限学习机(即p＝1)的分类精度有所提升，测试例一数据集选择uci数据库中的一些分类用的数据集，数据集详细内容如下表：
[0126]
表1 uci数据集信息
[0127]
uci数据集训练数据集测试集类别属性ecoli23510187parkinsons13659223wdbc398171230musk(version1)3331432166
[0128]
测试例一中，选择相同的初始化值进行测试例，设置核函数k()为rbf核函数，惩罚参数以及核参数分别设置为2和8，得到测试例结果如下表所示：
[0129]
表2测试集准确度
[0130][0131]
测试例一结果表明，对于所使用的分类数据集，在极限学习机算法上(p＞1)的准确度都有一定程度的提升(1.34％～7.92％)，不同的数据集由不同的p值达到一个最优提升，这也证明了本发明极限学习机算法的有效性和灵活性，也是提升机器学习算法精确度的一个新思路。
[0132]
测试例目标二是验证鲸鱼优化算法的有效性，测试例二中使用uci数据库中的lowresolutionspectromete数据集，对比相同参数下其他基于群的优化算法优化效果，鲸鱼优化算法的初始化参数为：鲸鱼种群数量设为20，最大迭代次数设为25；对于粒子群算法(pso)，自学习系数和全局学习系数都设置为2，惯性系数设置为1，最大初始速度限制为值范围长度的1/10；差分进化算法(de)中的交叉率和突变率分别设置为0.3和0.5；在遗传算法(ga)中，将交叉率设置为0.8，将突变率设置为0.05；得到的测试例二结果曲线图如图3；
[0133]
测试例二结果表明，本发明中所用鲸鱼优化算法(mwoa)相比于差分进化算法(de)的输出权重更大，有着更快的收敛速度；相较于粒子群算法(pso)和遗传算法(ga)有着更为显著良好的优化效果，因此，本发明方法可以有效优化模型参数。
[0134]
显然，本发明的上述实施例仅仅是为清楚地说明本发明所作的举例，而并非是对本发明的实施方式的限定。对于所属领域的普通技术人员来说，在上述说明的基础上还可以做出其它不同形式的变化或变动。这里无需也无法对所有的实施方式予以穷举。凡在本
发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明权利要求的保护范围之内。

技术特征：
1.一种基于极限学习机的分类器参数辨识方法，其特征在于，包括以下步骤：步骤1：获取分类数据集，对分类数据集划分训练数据集和测试数据集；其中，训练数据集中每个元素为每一次在线训练的输入(x,y)，含m个数据，x为n维列向量，n表示每一个输入样本中的特征数量；y为t维输出列向量，t表示类别数量，并对训练数据集和测试数据集内的数据进行归一化处理；步骤2：构造极限学习机模型，采用改良的鲸鱼优化算法获取多新息极限学习机的最佳初始化参数：正则化因子c、核函数参数γ；其中，鲸鱼优化算法其改良过程为：引入自适应权重策略、莱维飞行搜索扰动机制对鲸鱼优化算法的鲸鱼个体进行位置更新；步骤3：利用训练数据集对极限学习机模型进行在线训练，用结构风险损失函数对极限学习机模型进行模型评估，进行输出权重的辨识更新，完成对所获数据集的分类训练；步骤4：将待分类的测试数据集输入到步骤3在线训练后的多新息极限学习机模型中，在线识别获得测试数据集的类别，若有新的数据输入，重复步骤3，对新输入的分类数据集进行分类。2.根据权利要求1所述一种基于极限学习机的分类器参数辨识方法，其特征在于，步骤2中极限学习机基础模型如下所示：hβ＝y(1)式中，y为极限学习机模型，即线性矩阵方程，β＝[β1,β2,...,β
i
]
t
为极限学习机的输出权重，β
i
＝[β
i1
,β
i2
,...,β
it
]，极限学习机输出权重的维度取决于极限学习机隐含层节点数i以及输出标签类的数量t；h为特征映射矩阵，表示为：式中，g()为激活函数，(a,b)是极限学习机输入层与隐含层之间的输入权重，输入权重为随机赋值；通过求解极限学习机模型(1)所在线性矩阵方程，得到最小二乘解β，最小二乘解β即为极限学习机的输出权重，极限学习机的输出权重转化为以下形式；β＝h
t
(i/c+hh
t
)-1
y(3)式中，c表示正则化因子，是一个常量；i是对应维度的单位矩阵。3.根据权利要求2所述一种基于极限学习机的分类器参数辨识方法，其特征在于，步骤2获取多新息极限学习机的最佳初始化参数，具体包括如下步骤：步骤2.1：设置鲸鱼优化算法的初始化参数，初始化参数包括鲸鱼种群数量n、维度数d、最大迭代次数t_max、鲸鱼种群在各个维度的上下限取值范围u
d
；步骤2.2：采取网格搜索的策略在需要的范围内搜索鲸鱼种群x＝{x1,x2,...,x
n
}，其中，x
i
(i＝1,2,...,n)表示第i个鲸鱼个体的位置信息，x
i
＝{x
i1
,x
i2
,...,x
id
}，x
ij
(j＝1,2,...,d)表示第i个鲸鱼个体第j维的位置信息；步骤2.3：使用f-score评判标准计算每一个鲸鱼种群中鲸鱼个体的适应度函数值f，并筛选保留最优的适应度值f
best
，将最优的适应度值f
best
对应的最佳鲸鱼个体x
best
作为当前
的全局最优解；步骤2.4：引入自适应权重策略、莱维飞行搜索扰动机制对鲸鱼优化算法的鲸鱼个体进行位置更新，完成对鲸鱼优化算法的改良；即引入自适应权重策略作用于最佳鲸鱼个体x
best
，调整最佳鲸鱼个体x
best
的权重比例，充分发挥鲸鱼个体在位置更新中的作用；引入莱维飞行搜索扰动机制，增强鲸鱼优化算法跳出局部最优的能力；步骤2.5：使用一种变异改良机制对鲸鱼优化算法进行迭代更新，即根据人为设定条件概率进行高斯变异，使用优胜劣汰机制，若更新或变异后鲸鱼种群x
t
的适应度值优于前一次迭代的最佳鲸鱼个体x
best
，则当前的全局最优解替换为x
t
；若更新或变异后鲸鱼种群x
t
的适应度值劣于前一次迭代的最佳鲸鱼个体x
best
，则当前的全局最优解为前一次迭代的最佳鲸鱼个体x
best
，直到迭代次数t达到最大迭代次数t_max时结束更新。4.根据权利要求3所述一种基于极限学习机的分类器参数辨识方法，其特征在于，步骤2.3中适应度函数值f为：式中，classes为分类类别数量；recall
i
为召回率，precision
i
为精确率，表示为：其中，tp
i
、fp
i
、tn
i
和fn
i
分别表示分类中真阳性、假阳性、真阴性和假阴性结果的数量。5.根据权利要求4所述一种基于极限学习机的分类器参数辨识方法，其特征在于，步骤2.4中鲸鱼个体的位置更新如下式所示：式中，t为迭代次数，q是一个(0,1)之间随机生成的概率；a＝a
·
(2r1-1)为系数向量，a为从2线性减小到0线性的收敛因子，bl为[0,1]之间的随机数，b为对数螺旋形常数，通常b＝1，l表示[-1,1]之间的随机数；ω为自适应权重策略。6.根据权利要求5所述一种基于极限学习机的分类器参数辨识方法，其特征在于，步骤2.4中莱维飞行搜素扰动机制中，α为随机步长，s为扰动步长，s计算公式如下：式中，u和v为标准正态分布随机数；λ为[0,2]之间的随机数，γ()为伽马函数。7.根据权利要求6所述一种基于极限学习机的分类器参数辨识方法，其特征在于，步骤
2.5中变异改良机制如下式所示：x
new
＝x(t+1)(1+gaussion(τ)),(8)式中，x
new
为x(t+1)更新后鲸鱼种群，gaussion()为高斯函数，τ为高斯核参数；x(t+1)为下一迭代次数的鲸鱼种群。8.根据权利要求7所述一种基于极限学习机的分类器参数辨识方法，其特征在于，步骤3中结构风险损失函数如下式所示：式中，p为新息长度，β＝[β1,β2,...,β
i
]
t
,β
i
＝[β
i1
,β
i2
,...,β
it
],,y(p,j)和φ(p,j)分别是基于新息长度p的输出滑动窗口和特征映射矩阵；所述输出滑动窗口y(p,j)和特征映射矩阵φ(p,j)定义如下所示：式中，h(j)为显性映射向量；求解结构风险损失函数方程(10)，得到输出权重β：β＝(i/c+φ(p,m)φ
t
(p,m))-1
y(p,m)(12)。9.根据权利要求8所述一种基于极限学习机的分类器参数辨识方法，其特征在于，步骤3中输出权重的辨识更新具体包括：步骤3.1：获取包含m个样本的训练数据集，将训练数据集记为(x
i
,y
i
)，i＝1，2,...,m，其中x
i
＝[x
i1
,x
i2
,...,x
in
]
t
，y
i
＝[y
i1
,y
i2
,...,y
it
]
t
，取d＝m/10的分类数据集作为测试数据集，剩余的9m/10的分类数据集作为训练数据集用于实时更新训练；步骤3.2：将显性特征映射方式转变为隐性映射；训练数据集为输入数据，利用核函数k(x
i
,x
j
,γ)与输入数据构造核矩阵ω＝hh
t
，经由公式推导，结合多新息理论下的核矩阵ω
m
；选择核矩阵ω
d
，利用公式(13)获得初始输出权重β1＝(i
p
/c+ω
d
)-1
y
d
；β＝(i/c+ω)-1
y(13)步骤3.3：根据核矩阵ω
d
以及初始输出权重β1计算误差e1＝y
d-ω
d
·
β1，每一次更新核矩阵ω和输出权重β后都计算误差项e
m
，再根据公式(14)计算新的核矩阵ω
m
，经由推导根据核矩阵ω
m
、误差项e
m
以及β
m-1
对输出权重β
m
进行在线更新。10.根据权利要求9所述一种基于极限学习机的分类器参数辨识方法，其特征在于，步骤3.3中输出权重β
m
表示为：
式中，n
m
＝β
m-1
ω
m
(:,1:p(m-1))，r
n
＝i
p
/c+ω
m
(:,p(m-1)+1:pm)。

技术总结
本发明公开了一种基于极限学习机的分类器参数辨识方法，步骤1：对分类数据集划分训练数据集和测试数据集；步骤2：构造极限学习机模型，采用改良的鲸鱼优化算法获取多新息极限学习机的最佳初始化参数，步骤3：利用训练数据集对极限学习机模型进行在线训练，用结构风险损失函数对极限学习机模型进行模型评估，进行输出权重的辨识更新，完成对所获数据集的分类训练，完善极限学习机模型参数；步骤4：将待分类的测试数据集输入到步骤3在线训练后的多新息极限学习机模型中，在线识别获得测试数据集的类别，若有新的数据输入，重复步骤3，对新输入的分类数据集进行分类。通过本发明方法，提高了极限学习机模型分类精度。了极限学习机模型分类精度。了极限学习机模型分类精度。


技术研发人员：王艳娇 刘益廷 李伟迪 邓木清
受保护的技术使用者：广东工业大学
技术研发日：2023.03.02
技术公布日：2023/7/12