一种基于YOLOv7网络的LAMOST低信噪比天体光谱分类方法

一种基于yolov7网络的lamost低信噪比天体光谱分类方法
技术领域
1.本发明属于lamost(large sky area multi-object fiber spectroscopic telescope)天体光谱分类技术领域，特别涉及了一种基于一维光谱特征可视化模块、一维卷积注意力模块和基于yolov7的一维低信噪比天体光谱分类网络。


背景技术：

2.随着时间的推移和天文观测技术的进步，lamost已经获得了大量的天体光谱。高效地利用这些天体光谱数据推动着天文学的发展。在lamost发布的海量光谱数据中绝大多数的光谱信噪比在0-10之间。目前的研究大多是基于高信噪比(＞10)光谱数据，低信噪比光谱中的信息通常会被忽略，信噪比较低的光谱通常是因为天体到地球的距离较远，其存在实际的信息利用价值。天体光谱中包含着天体的特征信息，可以用于区分不同天体和研究具体天体的形成及演化过程。天体光谱分类是天文研究的重要步骤。当前天体分类算法主要包括模版匹配法、传统机器学习算法和深度学习算法。模版匹配法是通过计算待测目标天体光谱与标准天体光谱模版的相似度来对天体进行分类的，对光谱的信噪比要求较高，且难以处理低信噪比天体光谱和海量天体光谱。当前传统机器学习天体光谱分类算法主要有：通过支持向量机算法对恒星天体光谱进行子分类；通过随机森林算法实现天体光谱恒星、星系、类星体的三分类；通过决策树算法实现天体分类。上述传统天体分类算法对光谱的信噪比较为敏感，鲁棒性差，泛化性能差。天体光谱分类的另一个重要方法是基于深度学习的算法，主要是采用基于cnn的神经网络，通过卷积层提取光谱特征。但是由于网络层数较浅，只能提取到光谱的浅层信息，分类效果较差。现有的resnet和densenet主流天体光谱分类算法虽然网络层数较深，能够提取到深层次的特征，对于高信噪比的天体光谱分类准确率较高，但是对于低信噪比的天体光谱分类效果较差，所以研究适合于一维低信噪比天体光谱深层次特征提取的深度学习算法对于提高天体光谱的数据利用率非常重要。


技术实现要素：

3.本发明的目的是为了克服上述背景中的不足，提供一种基于yolov7网络的lamost低信噪比天体光谱分类方法。此方法克服了模版匹配法和传统天体光谱分类算法对低信噪比天体光谱分类精度不高、鲁棒性差以及泛化性能差的缺陷。此外相比其它基于cnn神经网络的天体光谱深度学习分类算法，本发明的精度更高，更适合于处理低信噪比光谱。为了实现上述技术目的，本发明的技术方案为：
4.一种基于yolov7网络的低信噪比天体光谱分类方法，包括基于yolov7的一维光谱分类网络、一维卷积注意力模块和一维光谱特征可视化模块；
5.所述一维光谱分类网络是在yolov7网络的基础上进行了针对性修改，使其适合于一维低信噪比光谱分类。所述网络用于进行光谱特征提取，所提取的深层特征与浅层特征融合后作为光谱最终的分类特征，然后通过soffmax函数得到待分类光谱属于某一类别的概率，并通过分类准确率、精确率、召回率和f1-score指标衡量模型分类性能。其包括输入
降维、特征融合、分支缩减、输出类别四部分；
6.所述输入降维部分用于将输入的预处理之后的一维光谱数据进行特征降维，通过卷积方式降低光谱特征维度，并且根据模型的学习效果动态调整特征，包括cbr模块、cbmr模块、cbs模块；
7.所述特征融合部分用于提取一维天体光谱不同感受野和不同深度的特征，并融合不同感受野的特征，包括最近邻插值上采样、cbs模块、odsc模块、odsfc模块、sppt模块；
8.所述分支缩减部分用于减少网络的分支数，进行高度的特征融合，便于下一步的类别分类，包括cbs模块、cba模块、repconv模块、最近邻插值上采样模块；
9.所述输出类别部分用于得到每一条输入光谱的类别预测得分和最终所属的类别，包括展平层、全连接层、soffmax函数处理。
10.所述一维卷积注意力模块用于关注网络提取到的空间特征和通道特征，提高网络的分类性能，包括一维空间注意力模块和一维通道注意力模块。
11.所述一维光谱特征可视化模块用于将改进后的yolov7网络提取到的特征恢复到与输入天体光谱相同的大小，得到网络对一维光谱不同区域的关注程度。
12.所述cbr模块对输入光谱数据进行卷积、批归一化、relu激活函数提取光谱特征，其中relu激活函数的公式如下：
13.relu(x)＝max(0，x)
14.所述cbs模块对输入光谱特征进行卷积、批归一化、silu激活函数提取光谱特征，其中silu激活函数的公式如下：
[0015][0016]
所述cbmr模块对输入特征进行卷积、批归一化、最大池化、relu激活函数提取光谱特征，选择最大池化来减少特征图的数量，缓解网络对于特征位置的敏感性；
[0017]
所述odsc模块可以让网络学习到更多的特征，该模块有两个分支，上分支由5个串行的卷积核为1
×
1、1
×
1、1
×
3、1
×
3、1
×
3的cbs模块构成，用于提取不同感受野的特征。下分支由卷积核为1
×
3的cbs模块提取特征，两分支的输出特征拼接之后经过一维卷积注意力模块得到输出特征；
[0018]
所述odsfc模块作用同odsc模块，该模块同样也是两个分支，在上分支中，输入数据依次经过卷积核为1
×
1、1
×
3、1
×
3、1
×
3、1
×
1的cbs模块提取特征，在下分支中输入数据经过卷积核为1
×
1卷积层变换通道数。上分支的输出特征与下分支特征进行拼接实现特征融合效果，特征提取能力更强；
[0019]
所述sppt模块用于获得不同尺度的感受野，在上分支，输入数据经过三个串行的不同卷积核的cbs后经过3个并行的最大池化层获得不同感受野的特征。在下分支，输入数据经过cbs模块改变通道数。两个分支的特征进行特征融合后再通过卷积注意力机制，最后经过cbs模块得到sppt处理完成的特征；
[0020]
所述cba模块上下分支均由卷积层和批归一化层组成，上分支和下分支中卷积层的卷积核大小分别选择1
×
3和1
×
1；
[0021]
所述repconv模块用于将多分支权重转换为单分支权重。
[0022]
本发明还公开了一种基于yolov7网络的lamost低信噪比天体光谱分类方法，包括
以下步骤：
[0023]
s 1：读取fits文件获得天体光谱数据，并对其进行预处理；
[0024]
s2：对基于yolov7的天体光谱分类网络进行训练：利用预处理好的样本(xi，yi)进行训练，得到训练好的模型权重参数，其中xi表示一个1
×
n的天体光谱数据，yi表示其对应的天体光谱类别标签，i代表第i个样本，i＝1，2，3...x，x为训练样本总数；
[0025]
s3：加载训练好的模型权重参数，判断测试集中的天体光谱的类别，得到测试集的分类精确率、准确率、召回率、f1-score值，依次判断网络的分类性能；
[0026]
s4：利用s3确定的光谱分类指标，对输出概率掩码进行天体光谱类别判断，概率值最大的类别表示天体光谱的最终分类结果。
[0027]
在步骤s1中，通过读取fits文件获得一维天体光谱的流量和波长数据，采用去连续谱、归一化对数据进行预处理。
[0028]
在步骤s2中，采用adam优化器和交叉熵损失函数，利用改进后的yolov7网络对训练集数据进行训练。
[0029]
在步骤s2中，天体光谱的训练数据集以16组数据作为一个batch进行读取，网络采用gpu进行训练，初始学习率为0.0001，加快模型的训练进程。
[0030]
在步骤s2中，设置了早停，防止网络学习过程中出现训练集准确率持续上升，而验证集准确率迅速下降的问题。
[0031]
在步骤s3中，在每一个循环中利用验证集数据进行指标计算，调整参数，并保留在验证集上表现最好的模型权重参数。
[0032]
在步骤s4中，将测试集数据输入分类网络，输出网络对于每一条光谱数据在每一个分类上的预测值，选定预测分值最高的那一类作为输出结果。
[0033]
有益效果：本发明与现有技术相比，首次将基于yolov7的网络在一维天体光谱数据上进行应用尝试。本发明相比模板匹配法更适合于低信噪比天体光谱的分类，分类速度更快，分类准确率更高，更适合于海量天体光谱数据的处理。本发明相比传统机器学习算法精度更高、鲁棒性更好、泛化性能更好。本发明相比基于cnn神经网络的天体分类算法精度更高，且采用特征融合和一维卷积注意力机制提取到光谱的深层次特征，实现高准确率分类。本发明还对网络学习到的一维光谱的特征进行了可视化，克服了网络学习过程中的黑盒子问题。
附图说明
[0034]
图1是本发明中改进后的yolov7网络结构示意图；
[0035]
图2是本发明中一种基于yolov7网络的低信噪比天体光谱分类基本流程图；
[0036]
图3是本发明中一维光谱卷积注意力流程图；
[0037]
图4是本发明中一维光谱特征可视化流程图。
具体实施方式
[0038]
下面结合附图进一步对本发明的内容进一步阐述。
[0039]
如图2所示的一种基于yolov7网络的低信噪比天体光谱分类网络，包括如下步骤：
[0040]
s1：读取fits文件获得天体光谱数据，并对其进行预处理：读取60,000条信噪比在
0-10之间的天体光谱文件，其中恒星、星系、类星体分别有20,000条。利用去连续谱操作得到清晰的天体特征谱线，利用归一化减小光谱不同波段的流量值差异，选取1
×
3700大小的天体光谱数据。
[0041]
s2：对基于yolov7的天体光谱分类网络进行训练：利用预处理好的样本(xi，yi)进行训练，得到训练好的模型权重参数，其中xi表示一个1
×
n的天体光谱数据，yi表示其对应的天体光谱类别标签，i代表第i个样本，i＝1，2，3...x，x为训练样本总数，其中共包含训练数据集36,000条光谱，测试数据集12,000条光谱，验证数据集12,000条光谱；
[0042]
输入降维部分用于将输入的一维光谱数据进行特征降维，根据模型的学习效果动态调整特征权重，其包括cbr模块、cbmr模块和cbs模块。输入光谱数据经过cbr模块后得到第一次降维之后的特征，之后经过cbmr模块减少特征图数量，然后重复以上操作，输出最终降维的特征；
[0043]
特征融合部分用于提取一维天体光谱不同感受野和不同深度的特征，并融合不同尺度和不同感受野的特征，其包括最近邻插值上采样、cbs模块、odsc模块、odsfc模块、sppt模块，输入降维部分输出的特征经过odsc模块后与未经过odsc模块处理的特征相加进行特征融合，融合后的特征经过odmc、odsc、sppt模块处理后与对输入数据进行上采样的特征进行特征拼接实现再次特征融合；
[0044]
分支缩减部分用于减少网络的分支数，进行高度的特征融合，便于下一步的类别分类，包括cbs模块、cba模块、repconv模块、最近邻插值上采样模块，此部分将上一步中的特征进行拼接得到一类特征图，然后经过一维卷积注意力模块得到输出；
[0045]
类别输出部分用于得到每一条输入光谱数据的类别预测得分和最终所属的类别，包括展平层、全连接层、softmax函数处理；
[0046]
如图3所示，一维卷积注意力模块用于关注网络提取到的空间特征和通道特征，提高网络的分类性能，包括一维空间注意力模块和一维通道注意力模块；
[0047]
如图4所示，一维光谱特征可视化模块用于将基于yolov7改进的网络提取到的特征恢复到与输入天体光谱相同的大小，得到网络对一维光谱不同区域的关注程度；
[0048]
cbr模块对输入光谱数据进行卷积、批归一化、relu激活函数提取光谱特征，其中relu激活函数的公式如下：
[0049]
relu(x)＝max(0，x)
[0050]
cbs模块对输入光谱特征进行卷积、批归一化、silu激活函数提取光谱特征，其中silu激活函数的公式如下：
[0051][0052]
cbmr模块对输入特征进行卷积、批归一化、最大池化、relu激活函数提取光谱特征，选择最大池化来减少特征图的数量，缓解网络对于特征位置的敏感性；
[0053]
odsc模块可以让网络学习到更多的特征，该模块有两个分支，上分支由5个串行的卷积核为1
×
1、1
×
1、1
×
3、1
×
3、1
×
3的cbs模块构成，用于提取不同感受野的特征。下分支由卷积核为1
×
3的cbs模块提取特征，两分支的输出特征拼接之后经过一维卷积注意力模块得到输出特征；
[0054]
odsfc模块作用同odsc模块，该模块同样也是两个分支，在上分支中，输入数据依
次经过卷积核为1
×
1、1
×
3、1
×
3、1
×
3、1
×
1的cbs模块提取特征，在下分支中输入数据经过卷积核为1
×
1的cbs模块变换通道数。上分支的输出特征与下分支特征进行拼接实现特征融合效果；
[0055]
sppt模块用于获得不同尺度的感受野，在上分支，输入数据经过三个串行的卷积核均为1
×
1、1
×
3、1
×
1的cbs后经过3个并行的最大池化层获得不同感受野的特征，池化窗口为1
×
5、1
×
9、1
×
13。在下分支，输入数据经过卷积核为1
×
1的cbs改变通道数。两个分支的特征进行特征融合后再通过卷积注意力机制，最后经过cbs模块得到sppt处理完成的特征；
[0056]
cba模块上下分支均由卷积层和批归一化层组成，上分支和下分支中卷积层的卷积核大小分别选择1
×
3和1
×
1；
[0057]
repconv模块用于将多分支权重转换为单分支权重。
[0058]
如图1所示的一种基于yolov7网络的lamost低信噪比天体光谱分类网络结构中光谱数据的处理步骤包括如下：
[0059]1×
3700(单通道3700维)的输入数据经过输入降维部分后得到256
×
925和128
×
925的特征作为下一部分的输入。这两种不同特征数据进行特征融合后得到256
×
925，512
×
462和256
×
462三种不同的特征。特征融合得到的三个输出特征经过分支缩减部分得到768
×
924的特征。分支缩减后的特征经过输出类别部分得到网络对于输入数据在每一个类别上的预测得分。
[0060]
本实施实例通过改进后的yolov7网络、一维卷积注意力模块和一维光谱特征可视化模块的模型结构进行特征提取保障了网络具备良好的泛化能力，充分提取了低信噪比天体光谱的特征，从而使得网络对低信噪比的天体光谱分类精度更高。本发明相比于其他天体光谱分类方法，分类速度快，分类准确率高，泛化性能好，更适合于海量光谱数据的处理。本发明通过提取天体光谱深层特征和多尺度特征融合，更适合于低信噪比天体光谱分类，具有良好的鲁棒性。本发明还对网络学习到的一维光谱的特征进行了可视化，克服了网络学习过程中的黑盒子问题。实验结果表明，本发明得到的结果更好，更有利于低信噪比天体光谱的后续研究。
[0061]
表1为本发明与其它算法的实验结果对比，包括与传统的机器学习算法(knn、svm、rf、dt)、深度学习算法(1d cnn、1dsscnn、resnet、densenet、vit)分类性能比较：表1本发明与其它算法的实验结果对比
[0062][0063]
综上，本发明相比于传统机器学习算法和主流的深度学习天体分类算法具有更高的分类精度，且在低信噪比下也能取得较好分类结果，更有利于天体光谱的后续研究。

技术特征：
1.一种基于yolov7网络的lamost低信噪比天体光谱分类方法，其特征在于：包括yolov7网络、一维卷积注意力模块和一维天体光谱特征可视化模块；所述yolov7网络用于进行特征提取和光谱分类，所提取的多尺度特征用于天体光谱分类，其包括输入降维、特征融合、分支缩减、输出类别部分；所述一维卷积注意力模块用于使网络更好地关注一维光谱的有效分类特征，其包括空间注意力模块和通道注意力模块；所述一维天体光谱特征可视化用于将yolov7网络提取的用于天体光谱分类的特征进行关注区域可视化，计算网络输出的最后一层特征图的梯度，得到热力图。2.根据权利要求1所述，一种基于yolov7网络的lamost低信噪比天体光谱分类方法，其特征在于：所述方法包括改进的yolov7网络、一维卷积注意力模块和一维光谱特征可视化模块；所述yolov7网络对输入的1
×
3700光谱数据先进行输入降维得到256
×
925和128
×
925的特征，然后经过特征融合部分得到256
×
925，512
×
462和256
×
462三种不同的特征，之后经过分支缩减部分得到768
×
924的特征，最后经过分支缩减部分得到网络对于输入数据在每一个类别上的预测得分；所述一维卷积注意力模块充分提取了低信噪比天体光谱的特征，从而使得网络对低信噪比的天体光谱分类精度更高；所述一维光谱特征可视化模块对网络最后一层卷积层输出特征进行处理，获得不同通道的特征对于输出结果的贡献权重，对输出的128通道58维特征进行加权求和得到单通道58维的特征，采用3阶b样条函数将加权求和后的特征插值到原输入数据大小得到热力图。3.根据权利要求2所述，基于yolov7的天体光谱分类网络的特征在于：输入降维部分用于将输入的一维光谱数据进行特征降维，根据模型的学习效果动态调整特征权重，其包括cbr模块、cbmr模块和cbs模块。输入光谱数据经过cbr模块后得到第一次降维之后的特征，之后经过cbmr模块减少特征图数量，然后重复以上操作，输出最后降维的特征。4.根据权利要求2所述，基于yolov7的天体光谱分类网络的特征在于：特征融合部分用于提取一维天体光谱不同感受野和不同深度的特征，并融合不同尺度和不同感受野的特征，其包括最近邻插值上采样、cbs模块、odsc模块、odsfc模块、sppt模块，输入降维部分输出的特征经过odsc模块后与未经过odsc模块处理的特征相加进行特征融合，融合后的特征经过odmc、odsc、sppt模块处理后与对输入数据进行上采样的特征进行特征拼接实现再次特征融合。5.根据权利要求2所述，基于yolov7的天体光谱分类网络的特征在于：分支缩减部分用于减少网络的分支数，进行高度的特征融合，便于下一步的类别分类，包括cbs模块、cba模块、repconv模块、最近邻插值上采样模块，此部分将上一步中的特征进行拼接得到一类特征图，然后经过一维卷积注意力模块得到输出。6.根据权利要求4所述，基于yolov7的天体光谱分类网络的特征融合部分中odsc的特征，其特征在于：odsc模块可以让网络学习到更多的特征，该模块有两个分支。上分支由5个串行的卷积核为1
×
1、1
×
1、1
×
3、1
×
3、1
×
3的cbs模块构成，用于提取不同感受野的特征；下分支由卷积核为1
×
3的cbs模块提取特征，两分支的输出特征拼接之后经过一维卷积注意力模块得到输出特征。
7.根据权利要求4所述，基于yolov7的天体光谱分类网络的特征融合部分中odsfc的特征，其特征在于：模块有两个分支，在上分支中，输入数据依次经过卷积核为1
×
1、1
×
3、1
×
3、1
×
3、1
×
1的cbs模块提取特征；在下分支中输入数据经过卷积核为1
×
1的cbs模块变换通道数。上分支的输出特征与下分支特征进行拼接实现特征融合效果；与odsc不同的是odsfc模块对两分支中所有cbs模块的输出特征都进行了特征拼接，特征提取能力更强。8.根据权利要求4所述，基于yolov7的天体光谱分类网络的特征融合部分中sppt的特征，其特征在于：获得不同尺度的感受野，在上分支，输入数据经过三个串行的卷积核均为1
×
1、1
×
3、1
×
1的cbs后经过3个并行的最大池化层获得不同感受野的特征，池化窗口为1
×
5、1
×
9、1
×
13；在下分支，输入数据经过卷积核为1
×
1的cbs改变通道数；两个分支的特征进行特征融合后再通过卷积注意力机制，最后经过cbs模块得到sppt处理完成的特征。9.根据权利要求1所述，一种基于yolov7网络的lamost低信噪比天体光谱分类方法，其特征在于：包括以下步骤：s1：读取fits文件获得天体光谱数据，并对其进行预处理；s2：对基于yolov7的天体光谱分类网络进行训练：利用预处理好的样本(x
i
，y
i
)进行训练，得到训练好的模型权重参数，其中x
i
表示一个1
×
n的天体光谱数据，y
i
表示其对应的天体光谱类别标签，i代表第i个样本，i＝1，2，3
…
x，x为训练样本总数；s3：加载训练好的模型参数，判断测试集中的天体光谱的类别，得到测试集的分类精确率、准确率、召回率、f1-score值，依次判断网络的分类性能；s4：利用s3确定的光谱分类指标，对输出概率掩码进行天体光谱类别判断，概率值最大的类别表示天体光谱的最终分类结果。

技术总结
本发明公开一种基于YOLOv7网络的LAMOST低信噪比天体光谱分类方法。该方法的输入降维部分利用卷积对光谱进行特征提取和降维；特征融合部分将提取到的深层与浅层特征进行融合，得到多分支多尺度的特征；分支缩减部分通过卷积层和一维卷积注意力模块将不同尺度的特征图融合为一个分支；输出类别部分得到输入光谱属于每一类别的概率。通过准确率、召回率、F1-score、精确率来衡量网络的分类性能。在网络中的特征融合部分和分支缩减部分均利用卷积注意力机制使网络更关注对天体光谱分类有用的特征。本发明还使用一维光谱特征可视化模块对网络最后一层卷积层的输出特征进行可视化。本发明与目前主流光谱分类网络相比更适合于低信噪比光谱分类，具有更高的准确率。具有更高的准确率。具有更高的准确率。


技术研发人员：邱波 王晓敏 闫静
受保护的技术使用者：河北工业大学
技术研发日：2023.07.05
技术公布日：2023/10/15