一种基于混合模因WOA预训练的神经网络瞬变电磁反演方法

一种基于混合模因woa预训练的神经网络瞬变电磁反演方法
技术领域
1.本发明涉及地球物理瞬变电磁法技术领域，尤其涉及一种基于混合模因woa预训练的神经网络瞬变电磁反演方法。


背景技术：

2.tem反演是根据获取的时域感应磁场信号推断地下地电结构。传统的基于梯度的迭代优化方法以地下地电结构为优化对象，使预测感应磁场信号和采集信号的l2目标函数最小化。该方法高度依赖于初始模型，迭代过程容易陷入极值。为了避免这个问题，人们提出了诸如粒子群优化、遗传算法、模拟退火和人工神经网络等非线性反演方法。其中，随着机器学习和人工智能相关研究的形成，与人工神经网络相关的理论和相应算法发展最为迅速，不仅在瞬变电磁反演中具有大量应用，而且在其他电磁探测问题中也得到了广泛应用。
3.近年来，大量研究表明神经网络能够被应用于地球物理反演计算，是解决地球物理电磁非线性反演问题的有效方法之一。国外学者将神经网络反演被应用于可控源音频大地电磁和直流电测深资料处理中，证明了该方法解决地球物理电磁反演问题的有效性。此后，国内学者使用神经网络实现了电磁资料的非线性反演。与传统线性化迭代反演比较，深度神经网络(deep neural network,dnn)反演能获得更精细的反演结果。然而，tem样本的高维性和不适定性仍然是阻碍神经网络训练效率的主要障碍。常用的降维方法有主成分分析(principalcomponentanalysis，pca)、核pca和字典学习等方法。假设标准化原始变量之间存在多重共线性，即原始变量之间存在不可忽略的信息重叠，上述常用的降维方法无法有效消除这种重叠，难以精准处理tem数据。
4.通过启发式算法预先训练神经网络参数已成为提高神经网络训练质量的一种普遍方案。在单个启发式算法的进化过程中，很难平衡个体自身和社会群体的进化速度和方向。相应的优化问题是全局优化和局部优化之间的争论。很难有效地保持种群的多样性，这使得优化过程很容易过早收敛并陷入局部最优。近年来，模因算法成功地解决了许多复杂的启发式优化问题，其性能优于单独使用全局优化方法所获得的性能。考虑到鲸鱼优化算法(whaleoptimizationalgorithm，woa)可通过“收缩和包围机制”实现从全局搜索到局部搜索的过渡过程，并已用于改进20个测试函数的神经网络的训练过程，woa可作为基本的全局优化算法。


技术实现要素：

5.本发明意在提供一种基于混合模因woa预训练的神经网络瞬变电磁反演方法，以提升tem反演神经网络的预测精度。
6.为达到上述目的，本发明提供如下技术方案：
7.一种基于混合模因woa预训练的神经网络瞬变电磁反演方法，包括步骤：
8.s1、根据电阻率指数等间隔采样建立层状地电模型样本；
9.s2、构建深度神经网络，利用混合模因woa算法对深度神经网络中的权重及偏置进
行预训练；
10.s3、训练步骤s2得到的深度神经网络，并利用其预测未知大地的地电结构；
11.所述混合模因woa算法中的模因策略包括：
12.设计非线性收敛因子α；
13.位置更新过程中引入自适应惯性权重；
14.基于丰富种群多样性，引入遗传算法中的基因突变策略和粒子群优化算法中的小生境策略。
15.进一步，所述层状地电模型样本包括m个地电模型{mi,i＝1,2,
…
,m}，地电模型含n个电阻率参数和n-1个层厚参数；
16.阶跃电流产生的垂直感应磁场在频域中的垂直分量bz为：
[0017][0018]
通过以下傅里叶变换得到时域中的磁场响应：
[0019][0020]bz
对时间的导数表示为：
[0021][0022]
上述积分的时域响应通过函数的二阶导数性质获得，如下所示：
[0023]
dbz(t)dt＝
[0024][0025]
其中，i是励磁电流，a是线圈半径，h是发射线圈沿垂直方向的高度，z是接收线圈离地高度，j1(*)是一阶贝塞尔函数，λ是波长，μ0是自由空间磁导率，r
te
是反射系数，ω是角频率。
[0026]
进一步，woa算法中设计的非线性收敛因子α表示为：
[0027][0028]
其中，ζ1和ζ2均为非线性调整系数。
[0029]
进一步，在woa算法的环绕猎物和随机搜索猎物阶段，
[0030]
当采用直线轨迹更新策略时，在步骤项中引入自适应权重ω
1adap
：
[0031][0032]
当使用对数螺旋轨迹更新策略时，在假设的猎物位置项中引入自适应权重ω
2adap
：
[0033]
[0034]
自适应惯性权重表示为：
[0035][0036][0037]
其中，参数t
max
为最大迭代周期，t为当前迭代周期，γ为调整系数，γ选用0.5，x为最优化参数在t时的最优状态。
[0038]
本发明的有益效果是：
[0039]
本发明以woa算法作为基本的全局优化算法，利用模因策略优化woa全局优化算法以协调全局搜索与局部搜索的关系，避免woa的早熟收敛问题；利用深度神经网络和tem观测数据快速准确地预测复杂的地下层状电性结构。混合模因woa方法增强了深度神经网络的反演能力，提升了反演成像的精度，将神经网络的反演精度由10％提升至2％左右；本发明方法可广泛应用于瞬变电磁快速成像领域，对快速准确预测地下电性结构具有良好的实用价值和应用前景。
附图说明
[0040]
图1为本发明实施例提供的一种基于混合模因woa预训练的神经网络瞬变电磁反演方法的流程图；
[0041]
图2为深度神经网络流程图；
[0042]
图3为混合模因woa算法流程图；
[0043]
图4为五层地电模型及其tem响应示意图。
具体实施方式
[0044]
下面结合附图和实施方式对本发明作进一步的详细说明：
[0045]
如图1所示的，一种基于混合模因woa预训练的神经网络瞬变电磁反演方法，包括：
[0046]
(1)样本建立
[0047]
建立层状地电模型样本。确定地电模型层数n，则地电模型含n个电阻率参数和n-1个层厚参数，共2n-1个参数，构建m个地电模型{mi,i＝1,2,
…
,m}。
[0048]
在层状地电模型中，水平线圈激发的初始场从地表垂直入射到地下。通过介质中的传播、电性界面的透射和反射，在地表产生二次场信号。为了减少横向不均匀性的影响，我们经常测量线圈中心磁场的垂直分量。阶跃电流产生的垂直磁场信号可以表示为：
[0049][0050]
其中，i是励磁电流，a是线圈半径，h是发射线圈沿垂直方向的高度，z是接收线圈离地高度，j1(*)是一阶贝塞尔函数。r
te
是反射系数，可由互阻抗^γ和自阻抗γ计算得出：
[0051]
[0052]
对于第i层，自阻抗可表示为：
[0053]
γi＝ui/iωμ0(3)
[0054]
互阻抗可表示为：
[0055][0056]
其中，i层的电导率为σi，层厚为hi，电系数ui＝(λ2+iωμ0σi)
1/2
，在准静态条件下，波长λ＝u0，μ0是自由空间磁导率，ω是角频率。i＝0表示空气介质。
[0057]
公式(1)可以得到垂直感应磁场在频域中的垂直分量，通过以下傅里叶变换可以得到时域中的磁场响应：
[0058][0059]
其中磁场的实部和余弦函数是偶函数，虚部和正弦函数是奇函数。因此，在时域场的上述表达式中，实部是偶函数，虚部是奇函数，虚部分的积分为零。经过简化后，当t》0时，利用偶函数的对称性，磁场对时间的导数可以得到：
[0060][0061]
上述积分的离散计算可通过折线近似法计算，时域响应可通过函数的二阶导数性质获得，如下所示：
[0062][0063]
实施例：
[0064]
构建基于指数等间隔数列的电阻率数据集d
rh
o＝{10
0:0.2:4
}，层厚数据集dh＝{10
0:0.2:3
}。对于一个五层的地电模型，可令n＝5，每个电性模型中有5个电阻率参数和4个层厚参数，共9个参数。
[0065]
遍历电阻率数据集d
rho
和层厚数据集dh中的所有参数，则层状模型样本总数量m＝205×
154。
[0066]
根据公式(1)计算每个地电模型对应的频率域响应，可化简为：
[0067][0068]
其中，一阶贝塞尔函数j1(*)的离散计算通过汉克尔变化计算。上述形式可变化为：
[0069][0070]
其中，λi为采样点，wi为权重，共i＝1,2,
…
,n，共n＝140个离散采样点。权重系数如表1所示，
[0071]
表1汉克尔变化系数
[0072]-6.76671159511e-143.39808396836e-13-7.43411889153e-138.93613024469e-13-5.47341591896e-13-5.84920181906e-145.20780672883e-13-6.92656254606e-136.88908045074e-13-6.39910528298e-135.82098912530e-13-4.84912700478e-133.54684337858e-13-2.10855291368e-131.00452749275e-135.58449957721e-15-5.67206735175e-141.09107856853e-13-6.04067500756e-148.84512134731e-142.22321981827e-148.38072239207e-141.23647835900e-131.44351787234e-132.94276480713e-133.39965995918e-136.17024672340e-138.25310217692e-131.32560792613e-121.90949961267e-122.93458179767e-124.33454210095e-126.55863288798e-129.78324910827e-121.47126365223e-112.20240108708e-113.30577485691e-114.95377381480e-117.43047574433e-111.11400535181e-101.67052734516e-102.50470107577e-103.75597211630e-105.63165204681e-108.44458166896e-101.26621795331e-091.89866561359e-092.84693620927e-094.26886170263e-096.40104325574e-099.59798498616e-091.43918931885e-082.15798696769e-083.23584600810e-084.85195105813e-087.27538583183e-081.09090191748e-071.63577866557e-072.45275193920e-073.67784458730e-075.51470341585e-078.26916206192e-071.23991037294e-061.85921554669e-062.78777669034e-064.18019870272e-066.26794044911e-069.39858833064e-061.40925408889e-052.11312291505e-053.16846342900e-054.75093313246e-057.12354794719e-051.06810848460e-041.60146590551e-042.40110903628e-043.59981158972e-045.39658308918e-048.08925141201e-041.21234066243e-031.81650387595e-032.72068483151e-034.07274689463e-036.09135552241e-039.09940027636e-031.35660714813e-022.01692550906e-022.98534800308e-024.39060697220e-026.39211368217e-029.16763946228e-021.28368795114e-011.73241920046e-012.19830379079e-012.51193131178e-012.32380049895e-011.17121080205e-01-1.17252913088e-01-3.52148528535e-01-2.71162871370e-012.91134747110e-013.17192840623e-01-4.93075681595e-013.11223091821e-01-1.36044122543e-015.12141261934e-02-1.90806300761e-027.57044398633e-03-3.25432753751e-031.49774676371e-03-7.24569558272e-043.62792644965e-04-1.85907973641e-049.67201396593e-05-5.07744171678e-052.67510121456e-05-1.40667136728e-057.33363699547e-06-3.75638767050e-061.86344211280e-06-8.71623576811e-073.61028200288e-07-1.05847108097e-07-1.51569361490e-086.67633241420e-08-8.33741579804e-088.31065906136e-08-7.53457009758e-086.48057680299e-08-5.37558016587e-084.32436265303e-08-3.37262648712e-082.53558687098e-08-1.81287021528e-081.20228328586e-08-7.10898040664e-093.53667004588e-09-1.36030600198e-093.52544249042e-10-4.53719284366e-11
[0073]
采样点通过下式计算：
[0074][0075]
其中，a＝-7.91001919，s＝8.79671439570e-02。
[0076]
通过傅里叶变换可以得到时域中的磁场响应，公式(6)的离散形式中，离散频率序列为ω＝10-5:5.e-04:15
。
[0077]
(2)构建深度神经网络
[0078]
神经网络可用于根据观测到的视电阻率响应预测相应的地电模型。该模型可以从神经网络学习和近似的本构关系中获得。该本构关系表示反转过程，并通过调整神经元的权重和偏差进行拟合，如图2所示。隐藏层的神经元完全连接。观察到的视电阻率通过输入层馈送到神经网络，并从输出层获得地电模型。这两层之间的隐层用于拟合非线性本构关系。
[0079]
为了使隐藏层符合非线性本构关系，将激活函数添加到神经元中。该激活函数将神经元所表示的特征映射到另一个维度空间中，在该空间中，可以使用线性方法来拟合非线性关系来解决问题。对于此类拟合问题，最常用的激活函数是校正线性单元(relu)函数，它通常允许深度神经网络更快地训练，而无需无监督的预训练。
[0080]
(3)建立混合模因woa算法
[0081]
在woa算法中，令鲸鱼种群规模大小为n，搜索空间的维度为m，鲸鱼的位置可表示为xi＝{x
i1
,x
i2
,
…
,x
im
},i＝1,2,
…
,n。每个鲸鱼无法知晓自己准确位置，当前时刻的最优位置可表示为x
*
＝{x
i*
,x
i*
,
…
,x
i*
},i＝1,2,
…
,n。令最大迭代次数t
max
，t(i＝1,2,...,t
max
)时刻，鲸鱼的位置更新可表示为：
[0082]
x(t+1)＝x*(t)-a
·
d(8)
[0083]
d为两组种群位置之间的距离，可表示为：
[0084]
d＝c
·
x*(t)-x(t)(9)
[0085]
a和c分别表示为：
[0086]
a＝2α
·
r-α(10)
[0087]
c＝2r(11)
[0088]
系数c由随机向量产生，系数a由随机向量和收敛因子产生。传统收敛因子为α＝2-2t/t
max
。
[0089]
混合模因woa算法中的模因策略包括：
[0090]
1)非线性收敛因子α
[0091]
woa在其搜索机制中使用系数a的模信息，以防止优化过程陷入局部最优。参数a的值主要取决于收敛因子α的变化。当收敛因子α较大时，|a|更有可能大于1，全局优化过程占主导地位，更适合优化过程的早期阶段。当收敛因子α较小时，|a|很难大于或等于1，这是迫使鲸鱼远离当前假定的猎物所必需的。鲸鱼群通过使用气泡网攻击捕获猎物，表现得更好，更适合优化过程的后期收敛阶段。
[0092]
传统woa中的收敛因子α呈线性变化，导致从全局最优搜索到局部最优时，转换速度固定。理想情况下，早期阶段的全局最优搜索过程将更慢、更详细，而后期阶段的局部最优收敛趋势将更快。这要求收敛因子α在优化的早期变化缓慢，在后期变化较快。非线性收敛因子α设计如下：
[0093]
[0094]
2)自适应惯性权重
[0095]
在woa的位置更新过程中引入自适应惯性权重，以更好地平衡局部优化和全局优化过程，从而提高算法的优化精度。具体改进公式如下：
[0096][0097]
在环绕猎物和随机搜索猎物阶段，当采用直线轨迹更新策略时，在步骤项中引入自适应权重ω
1adap
：
[0098][0099]
当使用对数螺旋轨迹更新策略时，在假设的猎物位置项中引入自适应权重ω
2adap
：
[0100][0101]
自适应权重表示为：
[0102][0103][0104]
其中，参数t
max
为最大迭代周期，t为当前迭代周期，γ为调整系数，γ选用0.5，x为最优化参数在t时的最优状态。
[0105]
当前最优位置(假设猎物位置)的权重随着迭代次数的增加而增加，表明每次迭代后选择的猎物更接近理论最优值；也就是说，当前种群的最优解对种群中的鲸鱼越来越有吸引力，使它们能够更准确地找到猎物，提高了算法的收敛速度和优化精度。
[0106]
3)种群多样化
[0107]
在woa优化过程中，种群多样性逐渐降低，具体表现为种群个体聚集在搜索空间中的一个或多个特定位置，这意味着算法可能出现过早收敛。种群多样性越小，群聚越多，表明优化过程处于收敛阶段；否则，该组处于随机搜索阶段，优化过程仍具有较强的全局优化能力。
[0108]
为了丰富种群的多样性，我们在优化过程中添加了一个变异操作，使该过程跳出局部最优，并进入解空间的其他区域继续搜索。假设种群适应度为f＝{fi,i＝1,2,
…
,n}，其中fi是种群中第i头个体鲸鱼的适应度。然后，种群聚集度可用适应度方差表示为：
[0109][0110]
当种群适应度的方差小于某个阈值或在最大迭代次数内猎物没有显著变化时，对种群中的某些个体以一定概率执行以下突变操作：
[0111]
x(t)＝x(t)(1+0.2ε)(19)
[0112]
除了遗传算法中的基因突变策略外，小生境形成了另一种有效的增强种群多样性的策略。本发明使用基于预选的利基策略，将适合度低的后代个体视为坏基因，限制他们替换父母，并避免他们的遗传。确认参与后代进化过程的个体的适合度需要高于其父母。混合模因woa算法的流程图如图3所示。
[0113]
实施例：
[0114]
混合模因woa算法的伪代码执行流程如下所述：
[0115]
[0116][0117]
其中，非线性调整系数ζ1和ζ2(公式12)分别设置为3和2。ω
1adap
和ω
2adap
(公式16、17)中γ的变化范围值设置为0.5，κ是权重的步长，设置为1。种群变异时(公式15)，ε是一个高斯分布在[-1,1]之间的随机变量。
[0118]
(4)训练深度神经网络
[0119]
dnn训练的训练过程如下所示：
[0120]
[0121][0122]
(5)实例分析
[0123]
如图4a所示，假设一个五层tem地电模型，每层的电阻率分别为500ω
·
m、200ω
·
m，1000ω
·
m和50ω
·
m；每层的厚度分别为15m、10m、20m和30m。该五层地电模型的感应磁响应是用于预测地电模型假设参数的假设响应信号。
[0124]
对四种反演方法预测的地电模型进行了比较，四种模型能够有效地反映假设的五层地电模型，但预测精度不同。dnn的地电模型从第一层的电阻率和厚度开始，具有最大的误差，并且预测明显偏离。预测第四层厚度时，偏差最大。采用woa方法对dnn中的参数进行预优化后，woa-dnn的预测精度略有提高。在此基础上，利用混合策略提高woa的优化效率，可以进一步提高dnn的预测精度。
[0125]
预测地电模型的相应tem响应如图4b所示。预测信号与假设信号有很高的拟合度。拟合在约1e-5s的时间窗口范围内进行放大和分析，响应信号的拟合精度符合不同方法预测的地电模型拟合精度的变化。然而，在大约1e-5秒的时间窗口内，反应的迹象会发生变化。此时，响应数据的拟合趋势与地电模型拟合结果所显示的每种反演方法的预测能力不同。虽然此类数值计算产生的不匹配不会影响对观测响应适应度水平的总体评估，但这表明预测能力更强的方法无法保证更好地拟合每个时间通道上的响应信号。表2显示了四种方案预测的地电模型。
[0126]
表2不同dnn预测的五层地电模型及其误差
[0127][0128]
*ape为误差绝对值百分比(absolutepercenterror，ape)，mape为平均误差绝对值(meanape，mape)
[0129]
从最终的误差绝对值百分比来看，单个dnn的预测精度最差，误差高于10％。添加woa策略后，误差降低至5％左右。混合模因woa-dnn的预测精度最高，可以将误差控制在2％以内。
[0130]
以上所述的仅是本发明的实施例，方案中公知的具体技术方案和/或特性等常识在此未作过多描述。应当指出，对于本领域的技术人员来说，在不脱离本发明技术方案的前提下，还可以作出若干变形和改进，这些也应该视为本发明的保护范围，这些都不会影响本发明实施的效果和专利的实用性。本技术要求的保护范围应当以其权利要求的内容为准，说明书中的具体实施方式等记载可以用于解释权利要求的内容。

技术特征：
1.一种基于混合模因woa预训练的神经网络瞬变电磁反演方法，其特征在于，包括步骤：s1、根据电阻率指数等间隔采样建立层状地电模型样本；s2、构建深度神经网络，利用混合模因woa算法对深度神经网络中的权重及偏置进行预训练；s3、训练步骤s2得到的深度神经网络，并利用其预测未知大地的地电结构；所述混合模因woa算法中的模因策略包括：设计非线性收敛因子α；位置更新过程中引入自适应惯性权重；基于丰富种群多样性，引入遗传算法中的基因突变策略和粒子群优化算法中的小生境策略。2.根据权利要求1所述的一种基于混合模因woa预训练的神经网络瞬变电磁反演方法，其特征在于：所述层状地电模型样本包括m个地电模型{m
i
,i＝1,2,
…
,m}，地电模型含n个电阻率参数和n-1个层厚参数；阶跃电流产生的垂直感应磁场在频域中的垂直分量b
z
为：通过以下傅里叶变换得到时域中的磁场响应：b
z
对时间的导数表示为：上述积分的时域响应通过函数的二阶导数性质获得，如下所示：其中，i是励磁电流，a是线圈半径，h是发射线圈沿垂直方向的高度，z是接收线圈离地高度，j1(*)是一阶贝塞尔函数，λ是波长，μ0是自由空间磁导率，r
te
是反射系数，ω是角频率。3.根据权利要求1所述的一种基于混合模因woa预训练的神经网络瞬变电磁反演方法，其特征在于，woa算法中设计的非线性收敛因子α表示为：其中，ζ1和ζ2均为非线性调整系数。
4.根据权利要求1所述的一种基于混合模因woa预训练的神经网络瞬变电磁反演方法，其特征在于，在woa算法的环绕猎物和随机搜索猎物阶段，当采用直线轨迹更新策略时，在步骤项中引入自适应权重ω
1adap
：当使用对数螺旋轨迹更新策略时，在假设的猎物位置项中引入自适应权重ω
2adap
：自适应惯性权重表示为：自适应惯性权重表示为：其中，参数t
max
为最大迭代周期，t为当前迭代周期，γ为调整系数，γ选用0.5，x为最优化参数在t时的最优状态。

技术总结
本发明公开了一种基于混合模因WOA预训练的神经网络瞬变电磁反演方法，包括步骤：S1、根据电阻率指数等间隔采样建立层状地电模型样本；S2、构建深度神经网络，利用混合模因WOA算法对深度神经网络中的权重及偏置进行预训练；S3、训练步骤S2得到的深度神经网络，并利用其预测未知大地的地电结构；所述混合模因WOA算法中的模因策略包括：设计非线性收敛因子α；位置更新过程中引入自适应惯性权重；基于丰富种群多样性，引入遗传算法中的基因突变策略和粒子群优化算法中的小生境策略。本发明能够利用TEM观测数据快速准确地预测复杂的地下层状电性结构。电性结构。电性结构。


技术研发人员：李睿恒 田浩 石兵华 邸忆 左乾坤 刘心雨
受保护的技术使用者：湖北经济学院
技术研发日：2023.01.30
技术公布日：2023/7/12