一种基于层次化超图神经网络的电力负载预测方法

1.本发明属于电力负载预测技术领域，具体涉及一种基于层次化超图神经网络的电力负载预测方法。


背景技术：

2.随着城市化和工业化的不断推进，电力需求不断增加，城市电力负载逐渐增大成为一项重要的问题。这种情况不仅影响人们的日常生活和工作，也给相关部门进行电力规划和能源管理带来了极大挑战。准确预测未来电力负载的变化能够有效指导人们进行电力供应和能源调配，同时为电力系统管理提供有力的数据支持。因此，电力负载预测成为了能源领域中非常重要且具有价值的研究方向之一。
3.现实生活中的电力负载数据由于周期性人类活动的影响，呈现出复杂多样的时间模式，如天模式（早高峰和晚高峰）和周模式（周内和周末）等。考虑这些时间模式间的交互通常比单独分析每个模式能够取得更准确的预测结果，对于电力负载的长期规划和早期预警都有非常重要的意义。
4.为了建模电力负载数据中不同尺度的时间模式及其交互，传统方法如季节性自回归移动平均（seasonal arima）和预言家模型（prophet）等使用基于启发式先验知识的分解方法来获取不同尺度的时间模式，但无法对时间序列的非线性依赖关系进行建模。为了捕获非平稳和非线性时间依赖关系，时间卷积网络（temporal convolutional networks，tcns）、递归神经网络（recurrent neural networks，rnns）以及transformers被用于电力负载预测。
5.为了建模不同尺度的时间模式，层次化的transformer方法尝试从原电力负载序列中构建不同尺度的子序列。公开号为cn114529051a的中国专利申请公开了基于层次残差自注意力神经网络的长期电力负荷预测方法，该方法通过提取历史负荷数据中的趋势项、周期项、节假日项和天气项的混合特征，层次化地对负荷序列进行拆解、重建和预测，有效捕捉了序列的长短期特征。但是这种方法忽略了不同尺度时间模式间的交互。
6.一些层次化的transformer方法在不同尺度子序列间引入金字塔等特殊的结构，通过同尺度节点间的边来建模子序列内的时间依赖关系，不同尺度节点间的边来建模不同尺度时间模式间的交互。公开号为cn113988415a的中国专利申请公开了一种中长期电力负荷预测方法，构建融合特征金字塔的cnn-lstm 网络预测高频非线性成分，构建arima模型预测低频线性成分，以及对季节拐点月负荷单独预测和修正，该方法通过金字塔结构提取了负荷序列内部的多种时间相关性特征，但不能捕捉高阶相关性特征。
7.实际上，电力负载序列中多个尺度的时间模式同时存在着高阶交互，例如夏季周末家庭用电高峰出现在午后（天、周和月模式的高阶交互）、冬季周末家庭用电量高且波动较小。因此，虽然上述方法取得了一定的效果，但是其缺乏建模电力负载序列中不同尺度时间模式间高阶交互的能力。


技术实现要素：

8.鉴于上述，本发明的目的是提供一种基于层次化超图神经网络的电力负载预测方法，通过对电力负载数据进行层次化特征提取并构建超图和超边图显式地表示不同尺度时间模式间的高阶交互，同时引入三阶段消息传递机制来聚合不同尺度的时间模式信息并学习其交互强度，从而充分发现和利用不同尺度时间模式间高阶交互信息，适用于电力系统运营、能源规划和能源效率管理等应用场景。
9.为实现上述发明目的，本发明提供的技术方案如下：本发明实施例提供的一种基于层次化超图神经网络的电力负载预测方法，包括以下步骤：s1，对电力负载数据进行预处理并构建训练样本；s2，利用层次化特征提取模块将训练样本的序列映射为不同时间尺度的子序列；s3，在超图-超边图构建模块中，将子序列中不同时刻电力负载数据视为节点，根据时间邻近规则构建层次化超图以建模尺度内、尺度间以及混合尺度时间模式间的高阶交互；通过将超图的超边视为节点，基于节点之间的顺序关系和关联关系构建超边图；s4，在三阶段消息传递模块中，通过节点-超边、超边-超边以及超边-节点之间的三阶段消息传递机制，聚合不同尺度的时间模式信息，学习不同尺度时间模式间的交互强度；s5，融合不同尺度的时间模式信息，进行电力负载预测，基于所有训练样本对电力负载预测模型进行训练，所述电力负载预测模型包括层次化特征提取模块、超图-超边图构建模块和三阶段消息传递模块；s6，将待预测的电力负载序列输入训练好的电力负载预测模型，得到预测结果。
10.优选地，s1中，所述对电力负载数据进行预处理并构建训练样本，包括：对给定的电力负载数据进行预处理，包括异常值处理和归一化处理；通过滑动时间窗口对预处理后的电力负载数据进行划分得到训练数据集；将训练数据集按照固定批量大小进行分批，按批次选取训练样本。
11.优选地，s2中，所述利用层次化特征提取模块将训练样本的序列映射为不同时间尺度的子序列，包括：将训练样本的序列输入到层次化特征提取模块中，利用聚合函数通过设置不同大小的聚合窗口生成不同时间尺度的子序列，下一个时间尺度子序列的长度为上一个时间尺度子序列的长度除以上一个时间尺度对应的聚合窗口大小，最终将所有子序列构成子序列集合。
12.优选地，s3中，所述将子序列中不同时刻电力负载数据视为节点，根据时间邻近规则构建层次化超图以建模尺度内、尺度间以及混合尺度时间模式间的高阶交互，包括：将子序列中不同时刻电力负载数据视为节点，根据时间邻近规则构建原始尺度内超图、原始尺度间超图和原始混合尺度超图，对于每种类型的超图分别建立k跳连接来聚合不同邻居范围内的信息得到k跳尺度内超图、k跳尺度间超图和k跳混合尺度超图，其中k为两个相邻节点间的时间跨度，最终得到包含原始尺度内超图和k跳尺度内超图的尺度内超图，包含原始尺度间超图和k跳尺度间超图的尺度间超图，包含原始混合尺度超图和k跳混合尺度超图的混合尺度超图。
13.优选地，所述尺度内超图，为将同一尺度内的相邻节点之间按相关性建立原始连
接得到多条超边构建原始尺度内超图，并将同一尺度内具有时间跨度且具有相关性信息的节点之间建立k跳连接得到多条超边构建k跳尺度内超图，将原始尺度内超图和k跳尺度内超图通过拼接操作得到尺度内超图。
14.优选地，所述尺度间超图，为将同一尺度内的相邻节点以及下一尺度节点之间按相关性建立原始连接得到多条超边构建原始尺度间超图，并将同一尺度内具有时间跨度且具有相关性信息的节点和下一尺度节点之间建立k跳连接得到多条超边构建k跳尺度间超图，将原始尺度间超图和k跳尺度间超图通过拼接操作得到尺度间超图。
15.优选地，所述混合尺度超图，为将各尺度的节点依据相关性建立原始连接得到多条超边构建原始混合尺度超图，其中超边所连接的同一尺度内的节点为相邻节点，并将各尺度的节点之间建立k跳连接得到多条超边构建k跳混合尺度超图，其中超边所连接的同一尺度内的节点为具有时间跨度且具有相关性信息的节点，将原始混合尺度超图和k跳混合尺度超图通过拼接操作得到混合尺度超图。
16.优选地，s3中，所述通过将超图的超边视为节点，基于节点之间的顺序关系和关联关系构建超边图，包括：在尺度内超图中，连接具有时间顺序节点的两条超边存在顺序关系，基于顺序关系构建包含节点集、边集和邻接矩阵的顺序关系超边图，其中将尺度内超图的超边视为顺序关系超边图的节点形成节点集，将顺序关系超边图的节点依据相关性构建边形成边集，将顺序关系超边图的节点作为邻接矩阵横、纵坐标，邻接矩阵中的值为0表示尺度内超图中两条超边没有顺序关系，邻接矩阵中的值为1表示尺度内超图中两条超边之间存在着顺序关系；在尺度间超图或混合尺度超图中，具有公共节点的两条超边存在关联关系，基于关联关系构建包含节点集、边集和邻接矩阵的关联关系超边图，其中将尺度间超图或混合尺度超图的超边视为关联关系超边图的节点形成节点集，将关联关系超边图的节点依据相关性构建边形成边集，将关联关系超边图的节点作为邻接矩阵的横、纵坐标，邻接矩阵中的值为0表示尺度间超图或混合尺度超图中两条超边之间存在着关联关系，邻接矩阵中的值为1表示尺度间超图或混合尺度超图中两条超边之间不存在关联关系；将基于顺序关系构建的邻接矩阵和基于关联关系构建的邻接矩阵进行填充和堆叠得到总邻接矩阵，总邻接矩阵的维度为顺序关系超边图的节点与关联关系超边图的节点之和。
17.优选地，s4中，所述在三阶段消息传递模块中，通过节点-超边、超边-超边以及超边-节点之间的三阶段消息传递机制，聚合不同尺度的时间模式信息，学习不同尺度时间模式间的交互强度，包括：s41，将子序列映射为初始化的节点嵌入，通过聚合超边所连接的节点嵌入得到初始化的超边嵌入；s42，基于构建好的超边图，通过注意力机制更新超边嵌入，输出更新后的超边嵌入；s43，基于构建好的层次化超图，通过超图注意力机制动态更新点边关联矩阵，并通过超图卷积更新节点嵌入，输出更新后的节点嵌入。
18.优选地，s6中，所述融合不同尺度的时间模式信息，进行电力负载预测，为得到更
新后的节点嵌入后，将不同尺度子序列的最后一个节点嵌入拼接起来输入线性层中进行融合，最后输出电力负载预测值。
19.本发明显式地考虑电力负载数据中不同尺度的时间模式，并通过层次化超图结构捕获不同尺度时间模式间的高阶交互，与现有技术相比，本发明具有的有益效果至少包括：（1）本发明方法中根据时间邻近规则构建超图，为建模电力负载数据中尺度内、尺度间以及混合尺度时间模式间的高阶交互提供基础，并通过将超边视为节点，根据超边之间的交互模式构建超边图，从而增强模型建模时间模式间高阶交互的能力。
20.（2）本发明方法中采用三阶段消息传递机制可以聚合电力负载序列中不同尺度的时间模式信息，并自动学习不同尺度时间模式间的交互强度，从而进一步提升模型的表达能力。
附图说明
21.为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图做简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动前提下，还可以根据这些附图获得其他附图。
22.图1是本发明实施例提供的一种基于层次化超图神经网络的电力负载预测方法的总体流程图；图2是本发明实施例提供的一种基于层次化超图神经网络的电力负载预测方法的总体框架图；图3是本发明实施例提供的一种基于层次化超图神经网络的电力负载预测方法的超图构建示意图；图4是本发明实施例提供的一种基于层次化超图神经网络的电力负载预测方法的超边图构建示意图。
具体实施方式
23.为使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例对本发明进行进一步的详细说明。应当理解，此处所描述的具体实施方式仅仅用以解释本发明，并不限定本发明的保护范围。
24.本发明的发明构思为：针对现有技术中电力负载预测方法无法充分发现和利用不同尺度时间模式间高阶交互的问题，本发明实施例提供了一种基于层次化超图神经网络的电力负载预测方法，通过构建层次化的超图和超边图建模不同时间尺度模式间的高阶交互，引入三阶段消息传递机制聚合不同尺度的时间模式信息并学习其交互强度，从而实现更精准的电力负载预测。
25.图1是本发明实施例提供的一种基于层次化超图神经网络的电力负载预测方法的总体流程图，图2是本发明实施例提供的一种基于层次化超图神经网络的电力负载预测方法的总体框架图。如图1和图2所示，实施例提供了一种基于层次化超图神经网络的电力负载预测方法，包括以下步骤：定义电力负载预测任务为：给定之前个时间步的观测值，
预测未来个时间步的值。
26.步骤1，根据电力负载传感器所采集的用电数据构建电力负载时间序列，然后通过滑动时间窗口对处理后的数据进行划分得到训练数据集。
27.具体地，对给定的电力负载数据进行预处理，包括异常值处理和归一化处理；通过滑动时间窗口对预处理后的电力负载数据进行划分得到训练数据集。
28.实施例中，对给定电力负载数据的序列进行异常值检测，并将其中的无效值（如超出正常范围的值和零值）去除。对消除异常值的数据进行z-score归一化处理，用于将数据转换为具有零均值和单位方差的标准正态分布，转换公式如下：
ꢀꢀꢀꢀꢀ
（1）其中，为消除异常值后的电力负载序列中时间步为的数值，为该电力负载序列数据的平均值，为该电力负载序列的标准差，为时间步的数据归一化之后的数值。
29.根据经验人为设定时间窗口大小，利用固定长度的滑动步长对归一化后的数据进行划分得到训练数据集。
30.步骤2，将训练数据集按照固定的批量大小进行分批，批次总数为。
31.具体地，将训练数据集按照固定批量大小进行分批，按批次选取训练样本。
32.实施例中，根据经验人为设定的批量大小对训练数据集进行分批，批次总数为。具体计算方式如下：
ꢀꢀꢀꢀꢀ
（2）其中，为训练数据集中样本总数。
33.步骤3，从训练数据集中顺序选取索引为的一批训练样本，其中。对于该批次中的每一个训练样本，重复步骤4-9。
34.步骤4，将训练样本序列输入到层次化特征提取模块中，构建个尺度的子序列集合。其中为原始输入样本序列，为第个尺度的子序列，取值范围为。
35.具体地，将训练样本的序列输入到层次化特征提取模块中，利用聚合函数通过设置不同大小的聚合窗口生成不同时间尺度的子序列，下一个时间尺度子序列的长度为上一个时间尺度子序列的长度除以上一个时间尺度对应的聚合窗口大小，最终将所有子序列构成子序列集合。
36.实施例中，如图2中（a）所示，给定一条样本电力负载序列，层次化特征提取模块通过设置不同的聚合窗口生成个尺度的子序列，第个尺度的子序列表示为，其中为第个尺度时刻的电力负载序列表示，为第个尺度的序列长度，为第个尺度的聚合窗口大小，为序列的
特征维度。具体的聚合过程可以表示为：
ꢀꢀꢀꢀꢀ
（3）其中，为聚合函数，例如卷积或者池化等，为聚合函数在第个尺度的可学习参数，为实数集，为第个尺度的序列长度。
37.最后，层次化特征提取模块生成个尺度的子序列集合。
38.步骤5，对于构建好的子序列集合，根据时间邻近规则构建尺度内、尺度间以及混合尺度三种类型的超图结构，最后根据三种类型的超图结构生成最终的超图，其中和分别表示节点集合和超边集合。
39.具体地，将子序列中不同时刻电力负载数据视为节点，根据时间邻近规则构建原始尺度内超图、原始尺度间超图和原始混合尺度超图，对于每种类型的超图分别建立k跳连接来聚合不同邻居范围内的信息得到k跳尺度内超图、k跳尺度间超图和k跳混合尺度超图，其中k为两个相邻节点间的时间跨度，最终得到包含原始尺度内超图和k跳尺度内超图的尺度内超图，包含原始尺度间超图和k跳尺度间超图的尺度间超图，包含原始混合尺度超图和k跳混合尺度超图的混合尺度超图。
40.实施例中，超图构建示意图如图3所示，一方面，通过构建不同类型的超图结构来建模尺度内、尺度间以及混合尺度时间模式间的高阶交互，另一方面，对于每种类型的超图，建立k跳连接来聚合不同邻居范围内的信息。
41.（5-1）构建尺度内超图， 将同一尺度内的相邻节点之间按相关性建立原始连接得到多条超边构建原始尺度内超图，并将同一尺度内具有时间跨度且具有相关性信息的节点之间建立k跳连接得到多条超边构建k跳尺度内超图，将原始尺度内超图和k跳尺度内超图通过拼接操作得到尺度内超图。
42.实施例中，如图3中（a）所示，为了建模尺度内时间模式间的高阶交互，构建了尺度内超图，其包含了原始尺度内超图和k跳尺度内超图，和分别为不同尺度的原始尺度内超边集和k跳尺度内超边集。
43.基于原始连接的第个尺度的第条超边定义为：
ꢀꢀꢀꢀꢀ
（4）其中，为第个尺度开始索引为的节点，为第个尺度索引为的节点，为的邻居节点，为基于原始连接的第个尺度的第条超边连接节点的开始索引，为任意节点的索引，为第个尺度的超边所连接的节点数量，为约束条件。
44.基于跳连接的第个尺度的第条超边定义为：
ꢀꢀꢀꢀꢀ
（5）其中，是基于k跳连接的两个相邻节点的时间跨度，为第个尺度开始索引为
的节点，为每条超边下节点的开始索引，可以通过如下公式计算得到：
ꢀꢀꢀꢀꢀ
（6）基于原始连接超图和k跳连接超图的尺度内超图定义为：
ꢀꢀꢀꢀꢀ
（7）其中，为拼接操作。
45.时间模式的高阶交互不仅存在于相同尺度内，也存在于相邻尺度间。例如，小时和天模式之间的高阶交互。另外，也存在着混合尺度时间模式间的高阶交互，例如，小时、天、周和月模式之间的高阶交互。因此，本发明实施例还构建了尺度间超图和混合尺度超图。
46.（5-2）构建尺度间超图，将同一尺度内的相邻节点以及下一尺度节点之间按相关性建立原始连接得到多条超边构建原始尺度间超图，并将同一尺度内具有时间跨度且具有相关性信息的节点和下一尺度节点之间建立k跳连接得到多条超边构建k跳尺度间超图，将原始尺度间超图和k跳尺度间超图通过拼接操作得到尺度间超图。
47.实施例中，如图3中（b）所示，尺度间超图包含了原始尺度间超图和k跳尺度间超图，和分别为不同尺度的原始尺度间超边集和k跳尺度间超边集。
48.基于原始连接的第个尺度的第条超边定义为：
ꢀꢀꢀꢀꢀ
（8）其中，为第个尺度的聚合窗口。
49.基于跳连接的第个尺度的第条超边定义为：
ꢀꢀꢀꢀꢀ
（9）最终的尺度间超图定义为：
ꢀꢀꢀꢀꢀ
（10）。
50.（5-3）构建混合尺度超图，将各尺度的节点依据相关性建立原始连接得到多条超边构建原始混合尺度超图，其中超边所连接的同一尺度内的节点为相邻节点，并将各尺度的节点之间建立k跳连接得到多条超边构建k跳混合尺度超图，其中超边所连接的同一尺度内的节点为具有时间跨度且具有相关性信息的节点，将原始混合尺度超图和k跳混合尺度超图通过拼接操作得到混合尺度超图。
51.实施例中，如图3中（c）所示，混合尺度超图包含了原始混合尺度超图和k跳混合尺度超图，和分别为原始混合尺度超边集和k跳混合尺度超边集。
52.基于原始连接的第条超边定义为：
ꢀꢀꢀꢀꢀ
（11)其中，为第个尺度索引为的节点，为为每条超边下节点在第个尺度的开始索引。
53.基于k跳连接的第条超边定义为：
ꢀꢀꢀꢀꢀ
(12)最终的混合尺度超图定义为：
ꢀꢀꢀꢀꢀ
(13)基于尺度内超图、尺度间超图和混合尺度超图进行拼接生成的超图定义为：
ꢀꢀꢀꢀꢀ
(14)。
54.步骤6，将超图中的超边视为节点，定义两种边的交互模式：顺序关系和关联关系，继而构建超边图。
55.实施例中，如图2中（b）所示，构建好超图以后，通过将中的超边视为节点，构建超边图来增强超图建模能力，其中是超边图中的节点集，是超边图中的边集，为将超图中第条超边作为节点，为将超图中第条超边作为节点，是基于超边之间顺序关系和关联关系定义的权重邻接矩阵。
56.（6-1）顺序关系。在尺度内超图中，连接具有时间顺序节点的两条超边存在顺序关系，基于顺序关系构建包含节点集、边集和邻接矩阵的顺序关系超边图，其中将尺度内超图的超边视为顺序关系超边图的节点形成节点集，将顺序关系超边图的节点依据相关性构建边形成边集，将顺序关系超边图的节点作为邻接矩阵横、纵坐标，邻接矩阵中的值为0表示尺度内超图中前一超边所连节点值的变化对后一超边所连节点值的变化不产生影响，邻接矩阵中的值为1表示尺度内超图中前一超边所连节点值的变化对后一超边所连节点值的变化产生影响。
57.实施例中，在尺度内超图中，连接具有时间顺序节点的两条超边存在顺序关系。如图4中（a）所示，超边连接前三个节点，连接接下来的三个节点。因为时间序列是一系列按照时间先后顺序排列的数据点的集合，因此，连接的节点值的变化（例如增长、减少或波动）会对连接的节点值产生影响。
58.令表示基于顺序关系构建的超边图。其中
表示节点集合，为尺度内超边的数量，为尺度内超图的超边集合，表示基于顺序关系构建的边集。如图4中（c）所示，基于顺序关系构建的邻接矩阵定义为：
ꢀꢀꢀꢀꢀ
（15）。
59.（6-2）关联关系。在尺度间超图和混合尺度超图中，具有公共节点的两条超边存在关联关系，基于关联关系构建包含节点集、边集和邻接矩阵的关联关系超边图，其中将尺度间超图和混合尺度超图的超边视为关联关系超边图的节点形成节点集，将关联关系超边图的节点依据相关性构建边形成边集，将关联关系超边图的节点作为邻接矩阵的横、纵坐标，邻接矩阵中的值为0表示尺度间超图和混合尺度超图中两条超边所连节点值的变化不具有相互影响，邻接矩阵中的值为1表示尺度间超图和混合尺度超图中两条超边所连节点值的变化具有相互影响。
60.实施例中，在尺度间超图和混合尺度超图中，具有公共节点的两条超边存在关联关系。例如，用电量的突然高峰会导致会导致当天以及本周用电量的波动。如图4中（b）所示，超边和因为连接公共节点而具有关联关系。
61.令表示基于关联关系构建的超边图。其中表示节点集合，是尺度间超边和混合尺度超边的数量，为尺度间超图的超边集合，为混合尺度超图的超边集合，表示基于关联关系构建的边集。如图4中（d）所示，基于关联关系构建的邻接矩阵定义为：
ꢀꢀꢀꢀꢀ
（16）。
62.具体地，将基于顺序关系构建的邻接矩阵和基于关联关系构建的邻接矩阵进行填充和堆叠得到总邻接矩阵，总邻接矩阵的维度为顺序关系超边图的节点与关联关系超边图的节点之和。
63.实施例中，基于顺序关系和关联关系构建的总邻接矩阵定义为：
ꢀꢀꢀꢀꢀ
（17）其中，和为全零矩阵，为尺度间超边和混合尺度超边的数量和尺度内超边的数量的数量和。
64.步骤7，根据构建好的超图和超边图，基于三阶段消息传递机制，通过节点-超边、超边-超边以及超边-节点之间的消息传递聚合模式信息并学习不同尺度时间模式间的交互强度。
65.三阶段消息传递机制的具体步骤为：（7-1）将子序列集合映射为初始化的节点嵌入，并通过聚合超边所连接的节点嵌入得到初始化的超边嵌入。
66.给定基于层次化特征提取模块得到的子序列集合，通过以下公式得到初始化节点嵌入：
ꢀꢀꢀꢀꢀ
（18）其中，为映射函数，可由多层感知机（multi-layer perceptron，mlp）实现，a为所有节点的数量。如图2中（c）所示，在得到初始化节点嵌入后，通过聚合超边所连接的节点信息得到初始化的超边嵌入。具体而言，对于第条超边，其初始化节点嵌入通过以下公式得到：
ꢀꢀꢀꢀꢀ
（19）其中，为通过超边连接的邻居节点。
67.（7-2）基于构建好的超边图，通过注意力机制更新超边嵌入，输出更新后的超边嵌入。
68.在得到初始化的超边嵌入后，首先将其映射为对应的查询、键和值，其中、和为可学习的映射矩阵。其中，对于的第行向量，其更新后的超边嵌入可以通过以下公式计算：
ꢀꢀꢀꢀꢀꢀꢀ
（20）
69.其中，为键中第行向量的转置，为非零即一的数值，为常数，为序列的特征维度，为第行列的注意力评分函数值，为第行列的注意力评分函数值，为注意力评分，为中第行向量，为所有超边的数量。实施例中，设置的取值为10000。
70.（7-3）基于构建好的超图结构，通过超图注意力机制动态更新点边关联矩阵，并通过超图卷积更新节点嵌入，输出更新后的节点嵌入。
71.在得到更新后的超边嵌入后，通过考虑与对应节点相连的相关超边更新节点嵌入。首先对于每个节点和其相关的超边，通过节点嵌入和更新后的超边嵌入计算注意力系数，衡量不同尺度时间模式间的交互强度：
ꢀꢀꢀꢀꢀ
（21）其中，为基于注意力机制更新后的点边关联矩阵，为节点嵌入中第个节点的表示，为超边更新后的超边嵌入，为超边更新后的超边嵌入，为节点及其相关超边的拼接操作，为可训练的多层感知机，为连接到节点的相邻超边，其可以通过构建的超图获取，为激活函数。
72.最后，通过结合多头注意力机制（multi-head attention）和归一化的超图拉普拉斯卷积更新节点嵌入，从而聚合不同尺度的时间模式信息：
ꢀꢀꢀꢀꢀ
（22）其中，为聚合多头注意力输出的聚合函数，例如拼接或者平均池化。和分别为更新后的点边关联矩阵和可学习的权重邻接矩阵，是多头注意力的头数，为头数，为激活函数，为节点度矩阵的平方逆，为超边度矩阵的逆，为点边关联矩阵的转置。
73.步骤8，将不同尺度子序列的最后一个节点嵌入拼接起来输入线性层，输出未来步的电力负载预测值。
74.通过层次化超图更新节点嵌入后，将不同尺度子序列的最后一个节点嵌入拼接起来，然后将其输入线性层中进行融合，最后输出未来步的电力负载预测值。
75.步骤9，计算预测损失，即该训练样本对应的真实值和实际模型输出的预测值之间的误差。
76.ꢀꢀꢀꢀꢀ
（23）其中，和分别为未来步的真实值和预测值。
77.步骤10，根据批中所有样本的损失，对整个模型中的网络参数、节点嵌入和超边嵌入进行调整。
78.批中所有样本的损失：
ꢀꢀꢀꢀꢀ
（24）其中，为批中第个样本的损失，为每个批中样本的数量。在本发明实施例中，根据损失，对整个模型中的网络参数、节点嵌入和尺度嵌入（所有参数记为）进行调整，更新公式如下：
ꢀꢀꢀꢀꢀ
（25）
其中，为学习率。
79.步骤11，重复步骤3-10直到训练数据集的所有批次都参与了模型训练。
80.步骤12，重复步骤3-11直到达到指定迭代次数。
81.步骤13，将待预测的电力负载序列输入到训练好的模型中，得到预测结果。
82.综上，本发明实施例提供的一种基于层次化超图神经网络的电力负载预测方法，通过层次化超图结构建模电力负载数据中尺度内、尺度间以及混合尺度时间模式的高阶交互，将超边视为节点构建超边图增强模型建模时间模式间高阶交互的能力，并通过三阶段消息传递机制学习不同尺度时间模式间的交互强度，进一步提升电力负载预测模型的预测准确性，在电力系统运营、能源规划和能源效率管理等领域都具有广阔的应用前景。
83.以上所述的具体实施方式对本发明的技术方案和有益效果进行了详细说明，应理解的是以上所述仅为本发明的最优选实施例，并不用于限制本发明，凡在本发明的原则范围内所做的任何修改、补充和等同替换等，均应包含在本发明的保护范围之内。

技术特征：
1.一种基于层次化超图神经网络的电力负载预测方法，其特征在于，包括以下步骤：s1，对电力负载数据进行预处理并构建训练样本；s2，利用层次化特征提取模块将训练样本的序列映射为不同时间尺度的子序列；s3，在超图-超边图构建模块中，将子序列中不同时刻电力负载数据视为节点，根据时间邻近规则构建层次化超图以建模尺度内、尺度间以及混合尺度时间模式间的高阶交互；通过将超图的超边视为节点，基于节点之间的顺序关系和关联关系构建超边图；s4，在三阶段消息传递模块中，通过节点-超边、超边-超边以及超边-节点之间的三阶段消息传递机制，聚合不同尺度的时间模式信息，学习不同尺度时间模式间的交互强度；s5，融合不同尺度的时间模式信息，进行电力负载预测，基于所有训练样本对电力负载预测模型进行训练，所述电力负载预测模型包括层次化特征提取模块、超图-超边图构建模块和三阶段消息传递模块；s6，将待预测的电力负载序列输入训练好的电力负载预测模型，得到预测结果。2.根据权利要求1所述的基于层次化超图神经网络的电力负载预测方法，其特征在于，s1中，所述对电力负载数据进行预处理并构建训练样本，包括：对给定的电力负载数据进行预处理，包括异常值处理和归一化处理；通过滑动时间窗口对预处理后的电力负载数据进行划分得到训练数据集；将训练数据集按照固定批量大小进行分批，按批次选取训练样本。3.根据权利要求1所述的基于层次化超图神经网络的电力负载预测方法，其特征在于，s2中，所述利用层次化特征提取模块将训练样本的序列映射为不同时间尺度的子序列，包括：将训练样本的序列输入到层次化特征提取模块中，利用聚合函数通过设置不同大小的聚合窗口生成不同时间尺度的子序列，下一个时间尺度子序列的长度为上一个时间尺度子序列的长度除以上一个时间尺度对应的聚合窗口大小，最终将所有子序列构成子序列集合。4.根据权利要求1所述的基于层次化超图神经网络的电力负载预测方法，其特征在于，s3中，所述将子序列中不同时刻电力负载数据视为节点，根据时间邻近规则构建层次化超图以建模尺度内、尺度间以及混合尺度时间模式间的高阶交互，包括：将子序列中不同时刻电力负载数据视为节点，根据时间邻近规则构建原始尺度内超图、原始尺度间超图和原始混合尺度超图，对于每种类型的超图分别建立k跳连接来聚合不同邻居范围内的信息得到k跳尺度内超图、k跳尺度间超图和k跳混合尺度超图，其中k为两个相邻节点间的时间跨度，最终得到包含原始尺度内超图和k跳尺度内超图的尺度内超图，包含原始尺度间超图和k跳尺度间超图的尺度间超图，包含原始混合尺度超图和k跳混合尺度超图的混合尺度超图。5.根据权利要求4所述的基于层次化超图神经网络的电力负载预测方法，其特征在于，所述尺度内超图，为将同一尺度内的相邻节点之间按相关性建立原始连接得到多条超边构建原始尺度内超图，并将同一尺度内具有时间跨度且具有相关性信息的节点之间建立k跳连接得到多条超边构建k跳尺度内超图，将原始尺度内超图和k跳尺度内超图通过拼接操作得到尺度内超图。6.根据权利要求4所述的基于层次化超图神经网络的电力负载预测方法，其特征在于，
所述尺度间超图，为将同一尺度内的相邻节点以及下一尺度节点之间按相关性建立原始连接得到多条超边构建原始尺度间超图，并将同一尺度内具有时间跨度且具有相关性信息的节点和下一尺度节点之间建立k跳连接得到多条超边构建k跳尺度间超图，将原始尺度间超图和k跳尺度间超图通过拼接操作得到尺度间超图。7.根据权利要求4所述的基于层次化超图神经网络的电力负载预测方法，其特征在于，所述混合尺度超图，为将各尺度的节点依据相关性建立原始连接得到多条超边构建原始混合尺度超图，其中超边所连接的同一尺度内的节点为相邻节点，并将各尺度的节点之间建立k跳连接得到多条超边构建k跳混合尺度超图，其中超边所连接的同一尺度内的节点为具有时间跨度且具有相关性信息的节点，将原始混合尺度超图和k跳混合尺度超图通过拼接操作得到混合尺度超图。8.根据权利要求1所述的基于层次化超图神经网络的电力负载预测方法，其特征在于，s3中，所述通过将超图的超边视为节点，基于节点之间的顺序关系和关联关系构建超边图，包括：在尺度内超图中，连接具有时间顺序节点的两条超边存在顺序关系，基于顺序关系构建包含节点集、边集和邻接矩阵的顺序关系超边图，其中将尺度内超图的超边视为顺序关系超边图的节点形成节点集，将顺序关系超边图的节点依据相关性构建边形成边集，将顺序关系超边图的节点作为邻接矩阵横、纵坐标，邻接矩阵中的值为0表示尺度内超图中两条超边没有顺序关系，邻接矩阵中的值为1表示尺度内超图中两条超边之间存在着顺序关系；在尺度间超图或混合尺度超图中，具有公共节点的两条超边存在关联关系，基于关联关系构建包含节点集、边集和邻接矩阵的关联关系超边图，其中将尺度间超图或混合尺度超图的超边视为关联关系超边图的节点形成节点集，将关联关系超边图的节点依据相关性构建边形成边集，将关联关系超边图的节点作为邻接矩阵的横、纵坐标，邻接矩阵中的值为0表示尺度间超图或混合尺度超图中两条超边之间存在着关联关系，邻接矩阵中的值为1表示尺度间超图或混合尺度超图中两条超边之间不存在关联关系；将基于顺序关系构建的邻接矩阵和基于关联关系构建的邻接矩阵进行填充和堆叠得到总邻接矩阵，总邻接矩阵的维度为顺序关系超边图的节点与关联关系超边图的节点之和。9.根据权利要求1所述的基于层次化超图神经网络的电力负载预测方法，其特征在于，s4中，所述在三阶段消息传递模块中，通过节点-超边、超边-超边以及超边-节点之间的三阶段消息传递机制，聚合不同尺度的时间模式信息，学习不同尺度时间模式间的交互强度，包括：s41，将子序列映射为初始化的节点嵌入，通过聚合超边所连接的节点嵌入得到初始化的超边嵌入；s42，基于构建好的超边图，通过注意力机制更新超边嵌入，输出更新后的超边嵌入；s43，基于构建好的层次化超图，通过超图注意力机制动态更新点边关联矩阵，并通过超图卷积更新节点嵌入，输出更新后的节点嵌入。10.根据权利要求9所述的基于层次化超图神经网络的电力负载预测方法，其特征在于，s6中，所述融合不同尺度的时间模式信息，进行电力负载预测，为得到更新后的节点嵌入后，将不同尺度子序列的最后一个节点嵌入拼接起来输入线性层中进行融合，最后输出
电力负载预测值。

技术总结
本发明公开了一种基于层次化超图神经网络的电力负载预测方法，包括以下步骤：对电力负载数据进行预处理并构建训练样本；将训练样本的序列映射为不同时间尺度的子序列；根据时间邻近规则构建层次化超图以建模尺度内、尺度间以及混合尺度时间模式间的高阶交互，基于节点之间的顺序关系和关联关系构建超边图；通过节点-超边、超边-超边以及超边-节点之间的三阶段消息传递机制，聚合不同尺度的时间模式信息，学习不同尺度时间模式间的交互强度；融合不同尺度的时间模式信息，基于所有训练样本训练电力负载预测模型；进行电力负载预测。本发明方法能够提高电力负载预测的准确度，适用于电力系统运营、能源规划和能源效率管理等应用场景。场景。场景。


技术研发人员：陈岭 尚宗江
受保护的技术使用者：浙江大学
技术研发日：2023.09.01
技术公布日：2023/10/6