一种基于卷积神经网络和自注意力机制的智能矿物分选方法

1.本发明涉及一种基于卷积神经网络和自注意力机制的智能矿物分选方法，名为oreformer，属于矿物分选和计算机视觉技术领域。


背景技术：

2.矿产资源是现代工业生产的中流砥柱，对经济发展、基础建设、国防安全等作出了巨大贡献。合理、高效且可持续化的矿产资源分配是当前矿业领域发展的第一要务。随着发展速度的不断加快，矿产保有量呈明显下降趋势，且具有贫、细、杂、难选的矿产资源特质。同时，矿物开采过程中围岩量剧增也导致运输、破碎、磨矿能耗居高不下，因此亟须在开采后和洗选前进行矿物快速识别与分选，以达到预先排矸和降本增效的目的。
3.近年来，基于射线传感器的智能矿物分选技术备受关注，可实现两产品(矿石排矸)乃至多产品的高效率、批量化分选。同时，随着传感器设备的快速更新，基于γ射线,罗曼光谱分析、x射线衍射(xrd)分析和x射线荧光(xrf)分析的射线分选设备在智能矿物分选领域的应用前景日益广阔，具有精度高、操作简单、用户友好等优点，且在大块矿物的分选任务中效果突出。然而，该类智能矿物分选设备仍受制于价格昂贵、设备成本高、辐射危害性大和设备体积庞大等问题，故不适合于作为一种通用矿物分选技术被应用在实践作业场景。
4.成像技术和计算机视觉技术的快速发展为上述问题的解决提供了一种新的解决方案，其借助光学仪器(如工业相机、高光谱成像仪、显微成像系统和扫描电镜)采集矿物图像，并采用图像处理与分析方法对矿物的颜色、光泽、条痕、沟壑、纹理等表观特征进行分析，有效地替代了基于射线传感器的矿物分选设备。早期，基于视觉的矿物分选设备多以传统机器学习算法为核心，如决策树、朴素贝叶斯、k最近邻、人工神经网络、主成分分析、支持向量机等，具有识别速度快、分类精度高、无辐射、无污染、低成本、易部署等优势。然而，图像像素需求高、提取特征有限、推理速度慢且无法充分利用大批量图像数据等缺点仍然限制了该类技术的进一步发展。
5.深度学习技术的出现为计算机视觉在选矿领域的交叉整合提供了新的技术发展方向。作为一种数据驱动的技术(即数据量越大或数据分析越充足就能得到越高的精度)，其能够充分利用静态或动态场景下采集的大批量矿物图像数据中提取具有代表性、一般性和差异性的特征来完成矿物分选任务。一方面，基于深度学习技术的矿物分选方法继承了传统机器学习方法的高精度、高效率、低成本、低复杂度等应用优势，另一方面又有效地降低了对输入图像分辨率的依赖和推理速度上的局限性。上述因素共同促进了深度学习技术在智能矿物分选领域的发展潜力。现阶段，矿物分选研究人员已经就模型的选择与搭建、多尺度特征的提取与优化、模型的部署与轻量化，以及复杂严峻情景下深度学习技术的应用问题展开了充分探索，这为后续技术的创新奠定了基础。然而，现有研究多基于单一卷积神经网络架构展开。该类网络虽通过卷积运算为特征的提取过程引入了局部性和平移不变性的归纳偏执，但其仍未充分地利用矿物图像的全局性信息，这为分选精度的进一步提升带
来阻碍。此外，全局信息的缺失也使得卷积神经网络架构在矿物图像特征表征层面存在瓶颈。以上问题均需要在架构设计层面进行解决，以有效提高智能矿物分选技术的工业应用性能。


技术实现要素：

6.有鉴于此，本发明提供了一种基于卷积神经网络和自注意力机制的智能矿物分选方法，名为oreformer，该架构在经过模型训练后可以直接被部署在矿物分选现场，实现矿物的高精度、快速分选。
7.一种基于卷积神经网络和自注意力机制的智能矿物分选方法，包括以下步骤：
8.步骤1：获取待处理的矿物图像数据，按照比例8:2划分训练集和验证集；
9.步骤2：采用人工标注的方法对所述的步骤1获得的矿物图像数据进行标注，以获取矿物图像数据的标签；
10.步骤3：搭建步骤1获得的矿物图像数据和步骤2获取的矿物图像数据标签的基于卷积神经网络和自注意力机制的矿物图像分类模型；
11.步骤4：对步骤3搭建的基于卷积神经网络和自注意力机制的矿物图像分类模型进行训练；
12.步骤5：终止所述矿物图像分类模型的训练过程，得到所述训练后的基于卷积神经网络和自注意力机制的矿物图像分类模型；
13.步骤6:通过步骤5获得的基于卷积神经网络和自注意力机制的矿物图像分类模型对新采集的矿物图像数据进行预测，完成矿物分选任务。
14.所述的步骤1中，获取矿物图像数据时，搭建矿物图像数据采集平台；所述的矿物图像数据是在工业相机在传送带正上方拍摄的，按照比例8:2划分训练集和验证集；
15.所述步骤3中，基于卷积神经网络和自注意力机制的矿物图像分类模型包括卷积颈、下采样层、自注意力编码器、均值池化层、投影层和分类器；
16.其中，卷积颈由3个卷积层构成，负责引入卷积运算的归纳偏执；
17.下采样层由1个卷积层构成，负责降低特征图像维度并生成用于自注意力编码器特征运算的特征数据；
18.自注意力编码器由1个卷积层、2个层归一化层、1个卷积多头自注意力模块(包含1个深度卷积层、3个线性投影层和1个多头自注意力层)、1个倒置瓶颈前馈神经网络(包含3个卷积层)和3条残差连接构成，负责计算输入图像中各区域的注意力权重；
19.投影层由1个卷积层构成，负责整合前序网络所提取到的矿物图像特征信息，并将输出传输给分类器；
20.分类器由1个全连接层构成，负责建立特征信息与类别之间的关系，进而完成矿物图像分类任务。
21.卷积颈包含1个步长为2、卷积核大小为3
×
3的卷积层和2个步长为1、卷积核大小为3
×
3的卷积层；
22.下采样层由一个步长为2、卷积核大小为2
×
2的卷积层构成；
23.自注意力编码器包含一个步长为1、卷积核大小为3
×
3的深度卷积层及深度卷积层前后的残差连接；1个层归一化层和1个卷积多头自注意力模块及层归一化层之前至卷积
多头自注意力之后的残差连接；1个层归一化层和1个倒置瓶颈前馈神经网络及层归一化层之前至倒置瓶颈前馈神经网络之后的残差连接；
24.深度卷积层中每一个卷积核负责在输入图像中的一个通道内进行卷积运算且卷积核数量与输入图像通道数量相等；
25.层归一化层将输入特征值按照层级结构进行归一化处理；
26.卷积多头自注意力结构包括步长为k、卷积核大小为k
×
k的深度卷积层、线性投影层和多头自注意力层，负责计算输入图像中各区域的注意力权重；
27.倒置瓶颈前馈神经网络包括1个步长为1、卷积核大小为1
×
1的卷积层，1个步长为1、卷积核大小为3
×
3的深度卷积层和1个步长为1、卷积核大小为1
×
1的卷积层，负责对输入特征值进行交互与融合；
28.均值池化层对输入特征值进行平均池化运算，负责汇聚重要的矿物图像特征信息；
29.投影层由1个步长为1、卷积核大小为1
×
1的卷积层构成，负责整合前序网络所提取到的矿物图像特征信息，并将输出传输给分类器；
30.分类器由1个全连接层构成，负责建立特征信息与类别信息之间的关系，进而完成矿物图像分类任务。
31.卷积多头自注意力模块以线性投影计算query矩阵，以步长为k、卷积核大小为k
×
k的深度卷积层及线性投影计算key矩阵和value矩阵，并依据如下公式计算注意力权重：
[0032][0033]
式中，q为线性投影计算后的query矩阵,k
′
和v
′
为分别为步长为k、卷积核大小为k
×
k的深度卷积层及线性投影计算key矩阵和value矩阵，dk为key矩阵的维度，softmax()为激活函数，b为初始为随机值的额外添加的相对位置矩阵且能够随网络一同进行训练调节。
[0034]
所述的步骤4中，进行训练的过程包括：
[0035]
确定所述基于卷积神经网络和自注意力机制的矿物图像分类模型的损失loss：
[0036][0037]
式中，n,为样本的总个数，m为分类任务的类别个数，i＝1,2,3...,n，c＝1,2,..,m，y
ic
为指示函数，当i属于类别c时为1，其余为0，p
ic
为第i个样本属于c类别的概率；
[0038]
所述步骤5中，根据确定的分类损失loss，确定基于卷积神经网络和自注意力机制的矿物图像分类模型的损失值，在训练过程中能够获得学习速率，终止训练时，根据损失值和学习速率的阈值，确定终止训练时间，得到训练后的基于卷积神经网络和自注意力机制的矿物图像分类模型。
[0039]
本发明具有如下有益效果：
[0040]
(1)本发明所提供的架构通过结合卷积运算中局部性、平移不变性的归纳偏执和自注意力机制的全局性及长距离依赖性，建立了识别能力更强、特征捕获能力更优的矿物图像分类模型，相较于单一基于卷积神经网络或基于自注意力机制的网络，本发明提出的
架构有着更高的分类精度和更低的计算复杂度。因此，本发明更易于实现矿物智能分选任务。
[0041]
(2)本发明所提供的架构适用于多种类、多类别矿物图像的细粒度分类任务，对表观特征差异较小的矿物图像有着优异的判别能力。同时，通过增加动态的增加网络深度与宽度，提出架构的矿物图像特征表征能力还能够得到进一步提升，即有效地解决了现有技术在组间差异较小的矿物图像中识别与分类效果较弱的问题。
[0042]
(3)本发明所提供的框架通过使用深度卷积和倒置瓶颈结构降低了模型的参数量与计算复杂度，获得了优秀的识别性能与模型复杂度平衡。因此，本发明具有更强的工业实践意义，满足于智能选矿设备的部署需求。
[0043]
(4)本发明所提供的框架有着更好的特征提取能力，能够快速捕获并汇聚矿物图像中对类别判定贡献更大的重要信息，且训练后的模型在分类权重分布上较为均匀，分类权重大小较为适中。
[0044]
(5)本发明公开了一种基于卷积神经网络和自注意力机制的智能矿物分选方法，实现了高精度、高效率、低体积、低计算复杂度的智能矿物分选。该架构通过结合卷积运算中局部性、平移不变性的归纳偏执和自注意力机制的全局性及长距离依赖性，建立了识别能力更强、特征捕获能力更优的矿物图像分类模型，相较于单一基于卷积神经网络或基于自注意力机制的网络，本发明提出的架构有着更高的分类精度和更低的计算复杂度。其次，本发明所提供的架构适用于多种类、多类别矿物图像的细粒度分类任务，对表观特征差异较小的矿物图像有着优异的判别能力。同时，本发明所提供的框架通过使用深度卷积和倒置瓶颈结构降低了模型的参数量与计算复杂度，获得了优秀的识别性能与模型复杂度平衡。此外，本发明所提供的框架有着更好的特征提取能力，能够快速捕获并汇聚矿物图像中对类别判定贡献更大的重要信息。
附图说明
[0045]
图1为本发明所提供的架构的流程图；
[0046]
图2为本发明的矿物图像数据采集平台示意图；
[0047]
图3为本发明的基于卷积神经网络和自注意力机制的矿物图像分类架构示意图；
[0048]
图4为本发明的各层级的设置细节参数示意图；
[0049]
图5为本发明采集的矿物图像示例图；
[0050]
图6为本发明的判别能力检验混淆矩阵示例图；
[0051]
图7为本发明的特征提取可视化示例图。
具体实施方式
[0052]
下面结合附图，对本发明进行详细描述。
[0053]
如图1所示，本发明提供了基于卷积神经网络和自注意力机制的矿物图像分类架构，具体包括以下步骤：
[0054]
步骤1：搭建如图2所示的矿物图像数据采集平台，平台主要包含振动筛分系统、除尘系统、矿物传送系统、图像采集系统、计算机控制系统和电磁喷吹系统六部分。采集过程中，振动筛分系统负责对原始矿料进行振动筛分，并将小于筛分孔目的物料均匀的散落在
传送带头部。同时，除尘系统会采用高频风量对矿物表面进行除尘，以减少表面粉尘对后续采集图像质量的影响。图像采集系统由4k彩色3ccd线阵工业相机及配套的图像处理软件，可实现在定速运转条件下样品图像的连续拍摄与存储，线性灯带光照强度可根据实际需求进行调节。经由矿物传送系统运输，矿物样品将在图像采集系统中依次进行拍摄，并将采集数据实时地上传至计算机控制系统，以实现矿物类别判断。在图像采集平台尾部，根据控制端返回的信息，电磁喷吹系统会将矿料分选至对应区域。
[0055]
步骤2：采用人工标注的方法对所述的步骤1获得的矿物图像数据进行标注，以获取矿物图像数据的标签。
[0056]
步骤3：搭建如图3所示的基于卷积神经网络和自注意力机制的矿物图像分类架构，基于卷积神经网络和自注意力机制的矿物图像分类架构包括卷积颈、下采样层、自注意力编码器、均值池化层、投影层和分类器。如图3所示，在该架构中，卷积颈包含1个步长为2、卷积核大小为3
×
3的卷积层和2个步长为1、卷积核大小为3
×
3的卷积层。下采样层由一个步长为2、卷积核大小为2
×
2的卷积层构成。自注意力编码器包含一个步长为1、卷积核大小为3
×
3的深度卷积层及深度卷积层前后的残差连接；1个层归一化层和1个卷积多头自注意力模块及层归一化层之前至卷积多头自注意力之后的残差连接；1个层归一化层和和1个倒置瓶颈前馈神经网络及层归一化层之前至倒置瓶颈前馈神经网络之后的残差连接三部分。其中，深度卷积层中每一个卷积核负责在输入图像中的一个通道内进行卷积运算且卷积核数量与输入图像通道数量相等；层归一化层将输入特征值按照层级结构进行归一化处理；卷积多头自注意力结构包括步长为k、卷积核大小为k
×
k的深度卷积层、线性投影层和多头自注意力层，负责计算输入图像中各区域的注意力权重。倒置瓶颈前馈神经网络包括1个步长为1、卷积核大小为1
×
1的卷积层，1个步长为1、卷积核大小为3
×
3的深度卷积层和1个步长为1、卷积核大小为1
×
1的卷积层，负责对输入特征值进行交互与融合。均值池化层对输入特征值进行平均池化运算，负责汇聚重要的矿物图像特征信息。投影层由1个步长为1、卷积核大小为1
×
1的卷积层构成，负责整合前序网络所提取到的矿物图像特征信息，并将输出传输给分类器。分类器由1个全连接层构成，负责建立特征信息与类别信息之间的关系，进而完成矿物图像分类任务。
[0057]
所述的步骤3中，卷积多头自注意力模块以线性投影计算query矩阵，以步长为k、卷积核大小为k
×
k的深度卷积层及线性投影计算key矩阵和value矩阵，并依据如下公式计算注意力权重：
[0058][0059]
式中，q为线性投影计算后的query矩阵,k
′
和v
′
为分别为步长为k、卷积核大小为k
×
k的深度卷积层及线性投影计算key矩阵和value矩阵，dk为key矩阵的维度，softmax()为激活函数，b为初始为随机值的额外添加的相对位置矩阵且能够随网络一同进行训练调节。
[0060]
基于卷积神经网络和自注意力机制的矿物图像分类架构各层级的设置细节参数如图4所示。在该参数图中，hi,(i＝1,2,3,4)表示卷积多头自注意力模块中计算头的数量，ki,(i＝1,2,3,4)表示卷积多头自注意力模块中深度卷积核的大小与步长，ri,(i＝1,2,3,4)表示倒置瓶颈前馈神经网络的中通道维度的扩充倍数，3
×
3、2
×
2、1
×
1卷积层中卷积核的尺寸，38、76、152、304、608、1280、n表示当前层的通道维度，
×
2、
×
4、
×
20表示当前模块的重复次数。对于给定224
×
224大小的输入矿物图像而言，其经过卷积颈后的特征图维度
为112
×
112
×
38，经过下采样1和自注意力编码器1(重复4次)后特征图维度为56
×
56
×
76，经过下采样2和自注意力编码器2(重复4次)后特征图维度为28
×
28
×
152，经过下采样3和自注意力编码器3(重复20次)后特征图维度为14
×
14
×
304，经过下采样4和自注意力编码器4(重复4次)后特征图维度为7
×7×
608，经过投影层后特征为度为1
×1×
1280，分类器将采用1个全连接层建立1280维特征与n个类别之间的联系，进而完成最终的分类任务。
[0061]
步骤4：基于矿物图像分类模型的损失函数loss(公式2)，使用矿物图像数据和矿物图像数据的标签对基于卷积神经网络和自注意力机制的矿物图像分类模型进行训练。训练过程中，损失值将实时反馈至网络各层，以优化网络权重。最终，根据训练是否达到预设轮次、损失值或学习率是否满足预设阈值终止模型训练，获取训练后的基于卷积神经网络和自注意力机制的矿物图像分类模型。
[0062][0063]
步骤5：通过训练后的基于卷积神经网络和自注意力机制的矿物图像分类模型对新采集的矿物图像数据进行预测，完成矿物分选任务。
[0064]
实施例
[0065]
本实例采用中国安徽、宁夏地区煤田的无烟煤为矿物样本。样品采用人工筛分选取13-50mm最终实验样品，并依照密度级划分为《1.4g/cm3、1.4-1.6g/cm3、1.6g-1.8g/cm3和》1.8g/cm3四类，矿物样本的质量百分比与灰分含量可见表1，显微组分分析结果可见表2。
[0066]
表1各密度集矿物样本的质量百分比与灰分含量(单位：百分比)
[0067][0068]
表2各密度集矿物样本的显微组分分析(单位：百分比)
[0069][0070]
搭建如步骤1所述的矿物图像数据采集平台，实施例选取工业相机为4k彩色3ccd线阵相机(jai 3ccd datasheet_lt-400cl)，可实现在定速运转条件下样品图像的连续拍摄与存储，传送带转轴处嵌有内置传感器，能够将皮带机转速转化为数字信号，以用于工业相机自适应调节，实施例选取光源为线性灯带，长度为500毫米，照度均匀，色温为5800-7000k，皮带在拍摄过程中的表面亮度约为250klux，由于外部环境光的亮度仅为130lx，因此可以完全屏蔽环境光影响。实验中传送带转速为1m/s，采集煤料图像大小为4096
×
3000pixel，精度为0.098mm/pixel。使用矿物图像数据采集平台循环采集多批次矿物图像数据在矿物图像数据采集平台下共收集到20000张矿物图像(各类别5000张)，按照比例8:2划分训练集和验证集，并令采集2000张图像(各类别500张)作为测试集，各数据集数据量细
节可见表3。
[0071]
表3实施例矿物图像数据集(单位：张)
[0072][0073]
采用如步骤2所述的标注方法对矿物图像进行标注，获取矿物图像数据的标签，各类别矿物图像的示例图如图5所示。
[0074]
搭建结构如图3所示的基于卷积神经网络和自注意力机制的矿物图像分类架构，名为oreformer。其中，架构包含卷积颈、下采样层、自注意力编码器、均值池化层、投影层和分类器。架构中各层级的具体设置细节参数如图4所示，在当前实验中分类器的输出维度n为4。
[0075]
确定所述基于卷积神经网络和自注意力机制的矿物图像分类模型的损失函数，并根据所确定的损失函数使用采集到的矿物图像数据和矿物图像数据的标签对矿物图像分类模型进行训练。训练过程中，模型将自动进行损失值计算和损失值反馈，并自动调整权重。最终，根据训练是否达到预设轮次、损失值或学习率是否满足预设阈值终止模型训练，获取训练后的基于卷积神经网络和自注意力机制的矿物图像分类模型。
[0076]
实施例搭建了额外搭建了4种常见的基于单一卷积神经网络或单一自注意力机制的矿物图像分类模型，用以进行检测性能对比试验，包括resnet 152、efficientnet-b6、vit和swin transformer-b(swin-b)。实施例以accuracy(acc)、precision和recall来评价模型分类精度，以#params和#flops来评价模型体积和计算复杂度。经相同环境训练后，本发明提出的基于卷积神经网络和自注意力机制的矿物图像分类模型和4种常见图像分类模型在无烟煤图像分类任务中的性能比较可见表4。实施例性能比较结果指出，提出的基于卷积神经网络和自注意力机制的矿物图像分类架构(oreformer)相较其他常见模型有着更高的acc、precision和recall，分别达到了93.3％、93.5％和93.3％。实施例模型体积和计算复杂度的对比结果指出，提出架构在模型计算复杂度上相较其他对比模型更低，仅为9.3g，其模型体积相较于参数量最少的efficientnet-b6模型也仅略微高出2.9m，但这带来了0.7％的分类精度提升。上述实验结果均有效证明了提出架构在多类别细粒度矿物图像分类任务中的优异性能。
[0077]
表4提出矿物图像轻量级目标检测模型和10种常见目标检测模型在无烟煤检测任务中的性能比较(单位：map(百分比)、#params(百万)、resolution(像素)、#flops(10亿次浮点数运算))
[0078][0079]
为检验提出基于卷积神经网络和自注意力机制的矿物图像分类模型在多类别矿
物图像分类任务中的判别能力，实施例对无烟煤测试集图像进行预测，并绘制混淆矩阵，如图6所示。实验结果表明，提出架构能够准确的判断无烟煤测试集中各图像所属的类别，且《1.4g/cm3和》1.8g/cm3两类别无烟煤的判别效果要相对优于1.4-1.6g/cm3和1.6-1.8g/cm3两类别。因此，测试结果有效地证明了提出架构在多类别矿物图像分类任务中的应用性能。
[0080]
此外，为清晰展示提出架构对矿物图像特征的表征能力和特征提取效果，实验对模型的分类权重以热力图梯度类别激活映射的形式进行展示，如图7所示。可视化结果表明，提出架构能够快速捕获并汇聚矿物图像中对类别判定贡献更大的重要信息，且训练后的模型在分类权重分布上较为均匀，分类权重大小较为适中。
[0081]
综上所述，本发明提供了一种基于卷积神经网络和自注意力机制的矿物分选架构，能够适用于大多数矿物的分选任务。主要流程包括矿物图像数据采集平台搭建、矿物图像采集与标注、基于卷积神经网络和自注意力机制的矿物图像分类模型搭建与训练、训练后矿物图像分类模型的预测应用等步骤。分类性能对比实验指出，提出架构通过结合卷积运算中局部性、平移不变性的归纳偏执和自注意力机制的全局性及长距离依赖性，达到了更高的分类精度和更低的计算复杂度。同时，混淆矩阵结果指出，提出架构对组间类别差异较小的矿物图像同样有着较好的判别能力，能够对不同种类的矿石进行精准判别。此外，分类权重可视化结果指出，提出架构在矿物图像特征提取与表征方面有着良好的效果，证明了提出架构的有效性。
[0082]
应当理解的是，以上仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

技术特征：
1.一种基于卷积神经网络和自注意力机制的智能矿物分选方法，其特征在于包括以下步骤：步骤1：获取待处理的矿物图像数据，并将获取的矿物图像数据划分为训练集和验证集；步骤2：对步骤1获得的矿物图像数据进行标注，获取矿物图像数据的标签；步骤3：根据步骤1获得的矿物图像数据和步骤2获取的矿物图像数据标签，构建基于卷积神经网络和自注意力机制的矿物图像分类模型；步骤4：使用步骤1中划分的训练集和验证集对步骤3构建的基于卷积神经网络和自注意力机制的矿物图像分类模型进行训练；步骤5：终止所述矿物图像分类模型的训练过程，得到所述训练后的基于卷积神经网络和自注意力机制的矿物图像分类模型；步骤6:通过步骤5获得的基于卷积神经网络和自注意力机制的矿物图像分类模型对新采集的矿物图像数据进行预测，完成矿物分选。2.根据权利要求1所述的一种基于卷积神经网络和自注意力机制的智能矿物分选方法，其特征在于：所述的步骤1中，获取矿物图像数据时，搭建矿物图像数据采集平台；所述的矿物图像数据是在工业相机在传送带正上方拍摄的，按照比例8:2划分训练集和验证集。3.根据权利要求1或2所述的一种基于卷积神经网络和自注意力机制的智能矿物分选方法，其特征在于：所述步骤3中，基于卷积神经网络和自注意力机制的矿物图像分类模型包括卷积颈、下采样层、自注意力编码器、均值池化层、投影层和分类器。4.根据权利要求3所述的一种基于卷积神经网络和自注意力机制的智能矿物分选方法，其特征在于：所述卷积颈由3个卷积层构成，负责引入卷积运算的归纳偏执，其中一个卷积层的步长为2、卷积核大小为3
×
3，另外两个卷积层的步长为1、卷积核大小为3
×
3；所述下采样层由1个卷积层构成，负责降低特征图像维度并生成用于自注意力编码器特征运算的特征数据，其中卷积层的步长为2、卷积核大小为2
×
2；所述自注意力编码器由1个卷积层、2个层归一化层、1个卷积多头自注意力模块、1个倒置瓶颈前馈神经网络和3条残差连接构成，负责计算输入图像中各区域的注意力权重；所述均值池化层对输入特征值进行平均池化运算，负责汇聚重要的矿物图像特征信息；所述投影层由1个卷积层构成，负责整合前序网络所提取到的矿物图像特征信息，并将输出传输给分类器，其中卷积层的步长为1、卷积核大小为1
×
1；所述分类器由1个全连接层构成，负责建立特征信息与类别信息之间的关系。5.根据权利要求4所述的一种基于卷积神经网络和自注意力机制的智能矿物分选方法，其特征在于：所述自注意力编码器中的卷积多头自注意力模块包含1个深度卷积层、3个线性投影层和1个多头自注意力层；卷积多头自注意力模块负责计算输入图像中各区域的注意力权重；所述自注意力编码器中的3条残差连接分别为深度卷积层前后的残差连接、层归一化
层之前至卷积多头自注意力之后的残差连接、层归一化层之前至倒置瓶颈前馈神经网络之后的残差连接；所述自注意力编码器中的层归一化层用于将输入特征值按照层级结构进行归一化处理。6.根据权利要求5所述的一种基于卷积神经网络和自注意力机制的智能矿物分选方法，其特征在于：所述深度卷积层的步长为1、卷积核大小为3
×
3，深度卷积层中每一个卷积核负责在输入图像中的一个通道内进行卷积运算且卷积核数量与输入图像通道数量相等。7.根据权利要求6所述的一种基于卷积神经网络和自注意力机制的智能矿物分选方法，其特征在于：所述倒置瓶颈前馈神经网络包含3个卷积层，其中一个卷积层为步长为1、卷积核大小为3
×
3的深度卷积层，另外两个卷积层的步长为1、卷积核大小为1
×
1，倒置瓶颈前馈神经网络负责对输入特征值进行交互与融合。8.根据权利要求7所述的一种基于卷积神经网络和自注意力机制的智能矿物分选方法，其特征在于：所述卷积多头自注意力模块以线性投影计算query矩阵，以步长为k、卷积核大小为k
×
k的深度卷积层及线性投影计算key矩阵和value矩阵，并依据如下公式计算注意力权重：式中，q为线性投影计算后的query矩阵,k
′
和v
′
为分别为步长为k、卷积核大小为k
×
k的深度卷积层及线性投影计算key矩阵和value矩阵，d
k
为key矩阵的维度，softmax()为激活函数，b为初始为随机值的额外添加的相对位置矩阵且能够随网络一同进行训练调节。9.根据权利要求8所述的一种基于卷积神经网络和自注意力机制的智能矿物分选方法，其特征在于：所述的步骤4中，进行训练的过程包括：确定所述基于卷积神经网络和自注意力机制的矿物图像分类模型的损失loss：式中，n,为样本的总个数，m为分类任务的类别个数，i＝1,2,3
………
,n，c＝1,2,...,m，y
ic
为指示函数，当i属于类别c时为1，其余为0，p
ic
为第i个样本属于c类别的概率。10.根据权利要求9所述的一种基于卷积神经网络和自注意力机制的智能矿物分选方法，其特征在于：所述步骤5中，根据确定的分类损失loss，确定基于卷积神经网络和自注意力机制的矿物图像分类模型的损失值，在训练过程中能够获得学习速率，终止训练时，根据损失值和学习速率的阈值，确定终止训练时间，得到训练后的基于卷积神经网络和自注意力机制的矿物图像分类模型。

技术总结
本发明公开了一种基于卷积神经网络和自注意力机制的智能矿物分选方法，实现了高精度、高效率、低体积、低计算复杂度的智能矿物分选。该架构通过结合卷积运算中局部性、平移不变性的归纳偏执和自注意力机制的全局性及长距离依赖性，建立了识别能力更强、特征捕获能力更优的矿物图像分类模型，相较于单一基于卷积神经网络或基于自注意力机制的网络，本发明提出的架构有着更高的分类精度和更低的计算复杂度。其次，本发明所提供的架构适用于多种类、多类别矿物图像的细粒度分类任务，对表观特征差异较小的矿物图像有着优异的判别能力。特征差异较小的矿物图像有着优异的判别能力。特征差异较小的矿物图像有着优异的判别能力。


技术研发人员：邓方 刘洋 王雪旖 陈杰
受保护的技术使用者：北京理工大学
技术研发日：2023.01.18
技术公布日：2023/7/11