融合SVM的小样本X光安检违禁品检测方法

融合svm的小样本x光安检违禁品检测方法
技术领域
1.本发明涉及x光安检违禁品检测领域，更具体地说涉及一种融合svm的小样本x光安检违禁品检测方法。


背景技术：

2.为了维护公共安全，我国在机场、火车站、地铁口等交通枢纽处都配备了用于检查行李包裹的安检机。安检员可以通过操作安检机，通过x光射线成像来检查行人包裹中是否含有违禁物品。为了提高安检效率，许多厂家开始给安检机配备检测违禁品的自动化算法，这类算法通常是让计算机能够辅助人工，从x光安检图像中自动识别出违禁品的位置和类别。这类自动检测算法对违禁品的检查在防范犯罪分子、遏制犯罪活动方面起到重要作用。
3.近年来，随着社会矛盾冲突不断，新型犯罪不断增加，许多犯罪分子为了将违禁物品带入公共区域，往往会选择携带非常规形状的违禁品，如异形刀具、枪支等。这类异形违禁品同样可被用以犯罪，并且更容易在常规安检流程中漏检，需要加强防范此类现象。
4.然而，现有自动化检测算法都选择采用深度学习方法，深度学习模型对可用有监督数据的数量具有很大依赖。当遇见此种紧急情况时，安检人员还未来得及得到大量可用于训练的数据，如果样本数量不足，模型难以从行李包裹中检测出违禁品。因此，急需实现一种不需要大量数据采集，就可以实现识别功能的安检违禁品自动检测技术，将安检算法进行快速部署，实现对新型违禁品的迅速响应。


技术实现要素：

5.本发明克服了现有技术中的不足，提供了一种融合svm的小样本x光安检违禁品检测方法。
6.本发明的目的通过下述技术方案予以实现。
7.融合svm的小样本x光安检违禁品检测方法，对基础检测模型进行二阶段训练方法，二阶段训练方法包括第一阶段基类训练阶段和第二阶段微调阶段，
8.第一阶段基类训练阶段用于训练出一个对x光违禁品图像具备基本检测能力的模型；
9.第二阶段微调阶段用于训练出一个对小样本新类具备检测能力的模型。
10.具体步骤如下：
11.步骤1、收集或制作大量带有标签的含违禁品的x光行李包裹图像；
12.步骤2、使用上述大量基类数据进行基类训练；
13.步骤3、收集少量带有标签的含稀有异型违禁品的x光行李包裹图像；
14.步骤4、使用上述少量新数据进行微调训练，得到可检测出稀有异型违禁品的检测模型。
15.基础检测模型为二阶段检测模型faster r-cnn，包括骨干网络、区域生成网络、由两层全连接层组成roi特征提取头、最终实现检测功能的分类器和回归器，图片信息将经由
骨干网络，被提取并压缩为特征信息，通过特征金字塔共输出四层不同尺度的图像特征信息，区域生成网络为生成预测锚框的网络，多尺度特征信息输入到区域生成网络后会生成相应不同尺度所对应的候选框，roi池化提取出建议区锚框所对应的建议区域，并统一其特征信息的长度，建议区域为p，经过两层全连接层输出后的p有其中为roi特征向量，m为特征向量的维度，该向量将输入到分类器用于最终的类别识别任务。
16.第一个阶段基类训练阶段，faster r-cnn模型通过大量基类数据训练，获取x光数据通用的多层次语义信息，训练数据集由所有基类数据dbase组成，通过基类数据的多次迭代来训练模型的表示能力。
17.第二阶段微调阶段，使用新类数据融合基类数据同时进行训练，对于c个类别中每个类别ci，均取k个样本构成微调阶段训练时的数据集d
finetune
，样本量为c
×
k个，模型训练时从dfinetune中随机采样数据，通过梯度下降方法调节参数，冻结骨干网络的参数，其余参数正常进行微调，第二阶段微调阶的所述基础检测模型上融合一个可训练的svm约束模块嵌入层模块，用于给模型额外增加了损失约束，使模型参数往更适应小样本任务的方向变化，建议区域p在输送到svm约束模块前，将经过由两个全连接层组成的再映射模块映射为p'，有其中
18.所述svm约束模块包括iou过滤器、多分类svm优化任务和qp解释器，iou过滤器，用于过滤出质量不高的建议区域特征；
19.多分类svm优化任务，用于构建出额外的分类任务；
20.qp解释器，用于求解上述svm优化任务传导梯度。
21.所述多分类svm优化任务的求解过程，用于通过确定支持向量、设立最大间隔的目标函数来给输入向量划分不同类别，具体求解过程如下：
[0022][0023][0024]
上式中，β为惩罚项系数，ξi为松弛因子，为克罗内克积。上式使用qpth库提供的qp求解器，通过求解其kkt条件求解参数和计算梯度
[0025]
令
[0026]
对偶空间下的目标函数如下：
[0027][0028][0029]
上式中为每个输入特征的one-hot编码，αc为求解的映射矩阵，有αc∈n×c，核函数方法k(
·
,
·
)将输入数据的内积计算(pi·
pj)投射到更高维的内积空间中，核函数的目标函数如下：
[0030][0031][0032]
上式中，k(pi,pj)为特征的核函数；
[0033]
为了衡量模块的分类效果，采用负对数似然损失来计算svm损失，以计算svm层输出的逻辑值分布和真实逻辑值分布的相似性，具体如下：
[0034][0035]
所述第二阶段微调阶段，加入所述svm损失约束，最终联合损失函数为：
[0036]
l＝l
rpn
+l
cls
+l
bbox
+λl
svm
[0037]
其中λ为调节损失平衡的比例系数。
[0038]
所述调节损失平衡的比例系数为0.5。
[0039]
本发明的有益效果为：本方案对还未具备大量可用样本的新型违禁品实现自动化检测支持。只需要一次长时间训练，即可获得一个具备快速学习能力的模型。对于某些难以获得的稀缺违禁品，安检员无需获得大量的违禁品数据，可以使模型对该类违禁品进行识别支持，为x光违禁品自动检测算法提供快速部署的条件，为快速打击某种犯罪现象提供了技术支持。
附图说明
[0040]
图1是模型流程图；
[0041]
图2是svm模块图；
[0042]
图3是使用sixray数据集为训练数据的实验结果-10shot；
[0043]
图4是使用sixray数据集为训练数据的实验结果-30shot。
具体实施方式
[0044]
下面通过具体的实施例对本发明的技术方案作进一步的说明。
[0045]
实施例
[0046]
本发明采用目标检测模型中检测精度较为准确的二阶段检测模型faster r-cnn作为小样本任务的基础检测框架。该模型的各组成部分分别是：
[0047]
骨干网络(backbone)、区域生成网络(rpn,region proposal network)、由两层全连接层(fc layer)组成的roi特征提取头和最终实现检测功能的分类器和回归器。
[0048]
为检测出各类违禁品的类别和位置，图片信息将经由骨干网络，被提取并压缩为特征信息，通过特征金字塔共输出四层不同尺度的图像特征信息。rpn网络是生成预测锚框的网络，多尺度特征信息输入到rpn网络后会生成相应不同尺度所对应的候选框(proposals)。roi池化提取出建议区锚框所对应的建议区域(region proposals)，并统一其特征信息的长度。建议区域记为p。经过两层全连接层输出后的p有其中为roi特征向量，m是特征向量的维度。该向量将输入到分类器用于最终的类别识别任务。
[0049]
如图1所示，二阶段训练方法分别是基类训练阶段(base-training stage)和小样
本微调阶段(fine-tuning stage)。
[0050]
在小样本问题中，基类数据是指大量的、现有的有监督数据，新类数据是指可用样本不足的、模型未见过的新类别的有监督数据。在第一个阶段，faster r-cnn模型将通过大量基类数据训练，获取x光数据通用的多层次语义信息。训练数据集由所有基类数据d
base
组成，通过基类数据的多次迭代来训练模型的表示能力。模型在第一阶段通过大量基类数据学到的知识将在小样本微调时被有引导性地向新类迁移。
[0051]
在第二个阶段小样本微调阶段里，本方法将使用新类数据，并融合基类数据同时进行训练。对于c个类别中每个类别ci，均取k个样本构成微调阶段训练时的数据集d
finetune
，样本量为c
×
k个。模型训练时将从d
finetune
中随机采样数据，通过梯度下降方法调节参数。该阶段采用的数据量远远少于基类训练，为了减小需要调节的参数量，本方法冻结骨干网络的参数，其余参数正常进行微调。
[0052]
为了给模型微调阶段增加新的约束，本方法在模型上融合了一个可训练的svm嵌入层模块。该svm层给模型额外增加了损失约束，能够使模型参数往更适应小样本任务的方向变化，本方法将其并入到目标检测框架中。该模块采用svm损失引导模型参数的微调过程。此外，建议区域p在输送到svm模块前，将经过由两个全连接层组成的再映射模块映射为p'。有其中
[0053]
如图2所示，svm模块中内置了一个多分类svm任务的求解过程。支持向量机方法(svm,support vector machine)是传统机器学习方法中最常见且有效的分类算法，该方法可以通过确定支持向量、设立最大间隔的目标函数来给输入向量划分不同类别。此多分类svm算法的目标函数为：
[0054][0055][0056]
其中β是惩罚项系数，ξi是松弛因子，是克罗内克积(kronecker)。上式是一个凸函数，svm的目标函数是凸函数，求解的是二次规划问题(quadratic programming)，故可以使用qpth库提供的qp求解器，通过求解其kkt条件来求解参数和计算梯度
[0057]
实际定义svm目标函数时，将其转换到对偶空间可以降低问题的复杂度，令：
[0058][0059]
对偶空间下的目标函数如下：
[0060][0061][0062]
其中是每个输入特征的one-hot编码，αc为求解的映射矩阵，有αc∈n×c。由于对偶空间的计算仅取决于输入数据的内积计算(pi·
pj)，使用核函数方法k(
·
,
·
)将这对内积投射到更高维的内积空间中。使用核函数的目标函数如下：
[0063][0064][0065]
其中，k(pi,pj)是特征的核函数，可以选择不同的核函数带入上式。
[0066]
为了衡量模块的分类效果，本方法使用常见的负对数似然损失来计算svm损失。该损失可以计算svm层输出的逻辑值分布和真实逻辑值分布的相似性，具体如下：
[0067][0068]
在微调阶段，加入上文所述的svm损失约束，最终联合损失函数为：
[0069]
l＝lrpn+lcls+lbbox+λlsvm
[0070]
其中λ是用以调节损失平衡的比例系数,取λ＝0.5。
[0071]
根据上述方法，使用二阶段训练模式，在微调阶段通过缩小参数空间和svm损失约束的方法可以有效提升模型对小样本违禁品类别的识别能力。通过本方法得到的模型可以实现对样本数量不足的违禁品类别的支持。
[0072]
使用安检违禁品领域的公开数据集sixray图像为训练数据而得到的实验结果，衡量指标为平均精度值(mean average precision,map)。
[0073]
本实施例中，仅将枪和刀作为小样本类，其余类别作为大样本类。该实验中，将大样本类(基类)的平均精度值表示为bap，将小样本类(新类)的平均精度值表示为nap。如图3所示表中内容为10shot实验结果，10shot表示每类新类样本仅取10个参与微调训练。如图4所示表中内容为30shot实验结果，30shot表示每类新类样本仅取30个参与微调训练。
[0074]
实验结果可见，在10shot数据规模下，普通训练方法对于新类样本的检测结果仅有31.3和15.0的map，而采用svm约束的小样本违禁品检测方案则为54.8和28.9的map。普通训练方法在30个样本的微调任务中，新类样本仅有26.9和14.1的map，而采用svm约束的小样本违禁品检测方案则为70.1和38.9的map。对于普通训练方法来说，10shot和30shot的实验结果相差不大，而svm约束的小样本检测方法在30shot下提升明显。svm约束的小样本检测方法相比普通训练方法，nap50指标提升了27％。该实验结果表明本发明有效提升了新类样本的识别效果。
[0075]
以上对本发明的一个实施例进行了详细说明，但所述内容仅为本发明的较佳实施例，不能被认为用于限定本发明的实施范围。凡依本发明申请范围所作的均等变化与改进等，均应仍归属于本发明的专利涵盖范围之内。

技术特征：
1.融合svm的小样本x光安检违禁品检测方法，其特征在于：对基础检测模型进行二阶段训练方法，二阶段训练方法包括第一阶段基类训练阶段和第二阶段微调阶段，第一阶段基类训练阶段用于训练出一个对x光违禁品图像具备基本检测能力的模型；第二阶段微调阶段用于训练出一个对小样本新类具备检测能力的模型。2.根据权利要求1所述的融合svm的小样本x光安检违禁品检测方法，其特征在于，具体步骤如下：步骤1、收集或制作大量带有标签的含违禁品的x光行李包裹图像；步骤2、使用上述大量基类数据进行基类训练；步骤3、收集少量带有标签的含稀有异型违禁品的x光行李包裹图像；步骤4、使用上述少量新数据进行微调训练，得到可检测出稀有异型违禁品的检测模型。3.根据权利要求1所述的融合svm的小样本x光安检违禁品检测方法，其特征在于：基础检测模型为二阶段检测模型faster r-cnn，包括骨干网络、区域生成网络、由两层全连接层组成roi特征提取头、最终实现检测功能的分类器和回归器，图片信息将经由骨干网络，被提取并压缩为特征信息，通过特征金字塔共输出四层不同尺度的图像特征信息，区域生成网络为生成预测锚框的网络，多尺度特征信息输入到区域生成网络后会生成相应不同尺度所对应的候选框，roi池化提取出建议区锚框所对应的建议区域，并统一其特征信息的长度，建议区域为p，经过两层全连接层输出后的p有其中为roi特征向量，m为特征向量的维度，该向量将输入到分类器用于最终的类别识别任务。4.根据权利要求3所述的融合svm的小样本x光安检违禁品检测方法，其特征在于：第一个阶段基类训练阶段，faster r-cnn模型通过大量基类数据训练，获取x光数据通用的多层次语义信息，训练数据集由所有基类数据d
base
组成，通过基类数据的多次迭代来训练模型的表示能力。5.根据权利要求4所述的融合svm的小样本x光安检违禁品检测方法，其特征在于：第二阶段微调阶段，使用新类数据融合基类数据同时进行训练，对于c个类别中每个类别c
i
，均取k个样本构成微调阶段训练时的数据集d
finetune
，样本量为c
×
k个，模型训练时从d
finetune
中随机采样数据，通过梯度下降方法调节参数，冻结骨干网络的参数，其余参数正常进行微调，第二阶段微调阶的所述基础检测模型上融合一个可训练的svm约束模块嵌入层模块，用于给模型额外增加了损失约束，使模型参数往更适应小样本任务的方向变化，建议区域p在输送到svm约束模块前，将经过由两个全连接层组成的再映射模块映射为p'，有其中6.根据权利要求5所述的融合svm的小样本x光安检违禁品检测方法，其特征在于：所述svm约束模块包括iou过滤器、多分类svm优化任务和qp解释器，iou过滤器，用于过滤出质量不高的建议区域特征；多分类svm优化任务，用于构建出额外的分类任务；qp解释器，用于求解上述svm优化任务传导梯度。7.根据权利要求6所述的融合svm的小样本x光安检违禁品检测方法，其特征在于：所述多分类svm优化任务的求解过程，用于通过确定支持向量、设立最大间隔的目标函数来给输
入向量划分不同类别，具体求解过程如下：入向量划分不同类别，具体求解过程如下：上式中，β为惩罚项系数，ξ
i
为松弛因子，为克罗内克积。上式使用qpth库提供的qp求解器，通过求解其kkt条件求解参数和计算梯度令对偶空间下的目标函数如下：对偶空间下的目标函数如下：上式中为每个输入特征的one-hot编码，α
c
为求解的映射矩阵，有α
c
∈
n
×
c
，核函数方法k(
·
,
·
)将输入数据的内积计算(p
i
·
p
j
)投射到更高维的内积空间中，核函数的目标函数如下：数如下：上式中，k(p
i
,p
j
)为特征的核函数；为了衡量模块的分类效果，采用负对数似然损失来计算svm损失，以计算svm层输出的逻辑值分布和真实逻辑值分布的相似性，具体如下：所述第二阶段微调阶段，加入所述svm损失约束，最终联合损失函数为：l＝l
rpn
+l
cls
+l
bbox
+λl
svm
其中λ为调节损失平衡的比例系数。8.根据权利要求7所述的融合svm的小样本x光安检违禁品检测方法，其特征在于：所述调节损失平衡的比例系数为0.5。

技术总结
SVM的小样本X光安检违禁品检测方法，对基础检测模型进行二阶段训练方法，二阶段训练方法包括第一阶段基类训练阶段和第二阶段微调阶段，第一阶段基类训练阶段用于训练出一个对X光违禁品图像具备基本检测能力的模型；第二阶段微调阶段用于训练出一个对小样本新类具备检测能力的模型。本发明的有益效果是对还未具备大量可用样本的新型违禁品实现自动化检测支持，可以为更迅捷的违禁品识别提供宝贵价值，一次长时间训练，即可获得一个具备快速学习能力的模型。对于难以获得的稀缺违禁品，安检员无需获得大量的违禁品数据，可以使模型对该类违禁品进行识别支持，为X光违禁品自动检测算法提供快速部署的条件，为快速打击某种犯罪现象提供了技术支持。罪现象提供了技术支持。罪现象提供了技术支持。


技术研发人员：方澄 韩萍 刘佳月
受保护的技术使用者：中国民航大学
技术研发日：2022.12.30
技术公布日：2023/7/11