一种基于视觉一致性的异质网络链路预测方法
未命名
09-15
阅读:86
评论:0

1.本发明涉及链路预测技术领域,特别是涉及一种基于视觉一致性的异质网络链路预测方法。
背景技术:
2.链路预测旨在利用现有的网络结构估计两个节点之间链路的存在概率,是许多数据挖掘任务的基础,如推荐算法、风险控制等。网络往往由大量不同类型的节点和关系构成,例如电商网络下,有用户、商品、品牌等节点类型,以及购买/被购买、属于/被属于等关系类型。多节点类型和多关系类型的异质网络可以保留复杂网络的结构信息,实现更完整的现实世界建模。因此,在异质网络中进行链路预测研究符合实际应用需求。
3.针对异质网络的链路预测研究,现有的方法都是基于节点嵌入后进行简单的组合、相乘等操作间接获得边嵌入向量输入到预测模型,这样做会在一定程度上造成表示信息的损失,从而导致链路预测结果不准确。
技术实现要素:
4.本发明的目的在于提供一种基于视觉一致性的异质网络链路预测方法,以提高链路预测的准确性。
5.一种基于视觉一致性的异质网络链路预测方法,包括:步骤s1,接收原始网络数据,根据原始网络数据构建异质网络的节点图,并根据节点与边的连接状况将节点图转换为边图;步骤s2,构建节点嵌入模型,在节点嵌入模型中,基于节点图,获得节点图的节点嵌入向量,通过对节点图的节点嵌入向量进行拼接得到间接边嵌入向量;基于边图,获得边图的节点嵌入向量,将边图的节点嵌入向量作为直接边嵌入向量,再根据视觉一致性原则对间接边嵌入向量和直接边嵌入向量进行协同训练,实现信息互补,从而得到节点图的最终节点嵌入向量;步骤s3,将需要预测的异质网络链路所连接的两个目标节点输入至节点嵌入模型中,得到两个目标节点对应的节点图的最终节点嵌入向量,对两个目标节点对应的节点图的最终节点嵌入向量进行拼接得到边嵌入向量,并将边嵌入向量输入至链路预测模型中,得到预测结果。
6.根据本发明提供的基于视觉一致性的异质网络链路预测方法,本发明将同质网络中的边图拓展到异质网络中,即在构建异质网络的节点图的同时,构建了边图,使得异质网络链路预测能够从节点的角度转向边的角度,在异质网络的节点图和异质边图中进行嵌入学习,并基于视觉一致性进行协同对比得到节点图的最终节点嵌入向量,该最终节点嵌入向量能够融合更全面结构信息和内容信息,提高了链路预测任务中构建边嵌入向量的有效性,从而提高了链路预测任务的准确性。
附图说明
7.图1为本发明实施例的基于视觉一致性的异质网络链路预测方法的流程图。
具体实施方式
8.为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
9.请参阅图1,本发明的实施例提供了一种基于视觉一致性的异质网络链路预测方法,包括步骤s1~s3:步骤s1,接收原始网络数据,根据原始网络数据构建异质网络的节点图,并根据节点与边的连接状况将节点图转换为边图。
10.其中,具体的,异质网络的节点图可以用g表示,g=(v,e,a,r),其中,v表示节点集合,e表示关系集合,a表示节点类型集合,r表示关系类型集合,且满足。
11.节点图转换为边图的转换规则为:边图中的节点是节点图中的连边,若节点图中的两条边存在一个公共端点,则这两条边在边图中所表示的节点之间存在连边,并且根据节点图中边所连接的节点类型,对边图中节点与关系划进行类型划分。通过上述转化规则将异质网络的节点图g转为边图。
12.步骤s2,构建节点嵌入模型,在节点嵌入模型中,基于节点图,获得节点图的节点嵌入向量,通过对节点图的节点嵌入向量进行拼接得到间接边嵌入向量;基于边图,获得边图的节点嵌入向量,将边图的节点嵌入向量作为直接边嵌入向量,再根据视觉一致性原则对间接边嵌入向量和直接边嵌入向量进行协同训练,实现信息互补,从而得到节点图的最终节点嵌入向量。
13.其中,所述节点嵌入模型包括全连接层、节点级注意力层、类型级注意力层,步骤s2具体包括:s21,使用全连接层对节点图和边图中的节点进行特征处理,在节点图中,采用全连接层将不同类型的节点初始特征向量投影到相同的潜在向量子空间;在边图中,先将每个连边在节点图中连接的两个节点的节点初始特征向量进行拼接,从而构建边图中节点的初始特征向量,之后使用全连接层对边图中节点的初始特征向量进行特征投影;在节点图中,由于异质网络中节点类型的多样性,异质节点的原始特征位于不同的特征空间,因此需要采用全连接层将不同类型的节点特征投影到相同的潜在向量子空间,从而方便后续的特征提取。具体的,步骤s21满足以下条件式:其中,表示节点i的节点初始特征向量,是关于节点类型r的第一权重矩阵,是关于节点类型r的第一偏置系数,是节点i经过特征投影后的特征向量;在边图中,由于是通过转化得到的,不存在初始特征向量,因此先将每个连边在节点图中连接的两个节点的初始向量进行拼接,从而构建边图中节点的初始特征,具体的,步
骤s21还满足以下条件式:骤s21还满足以下条件式:其中,表示边图中的节点的初始特征向量,表示节点j的节点初始特征向量,表示拼接操作;表示边图中的节点经过特征投影后的特征向量,是关于节点类型r的第二权重矩阵,是关于节点类型r的第二偏置系数。
14.s22,在节点图和边图中,通过节点级注意力层,将节点邻域内同一类型的邻居节点进行消息聚合,得到邻域中所有的类型的节点级特征向量,再使用类型级注意力机制进行消息聚合,分别获得节点图的节点嵌入向量和边图的节点嵌入向量;在通过节点级注意力层得到邻域中所有的类型的节点级特征向量后,使用类型级注意力机制进行消息聚合,具体的,步骤s22中,节点级注意力层进行消息聚合的公式为:其中,表示节点级注意力层消息聚合后的特征向量,表示节点i的节点类型为r的邻居集,v表示邻居集中的节点,是节点i关于节点v的节点级注意力权重;hv表示节点v在消息聚合时初始的特征向量,对于节点图,hv取,对于边图,hv取;节点级注意力权重的计算公式为:其中,是归一化函数,是节点i和节点v的相似系数,exp表示指数函数,k是邻居集中的节点,是节点i和节点k的相似系数;相似系数的计算公式为:其中,是激活函数,是第一相似性的函数,w3为第一共享参数,hi表示节点i在消息聚合时初始的特征向量。
15.步骤s22中,类型级注意力层进行消息聚合的公式为:
其中,是节点i经过类型级注意力层的消息聚合后得到的特征向量,r是异质网络中的关系类型集合,是节点i关于节点类型r的类型级注意力权重;是节点i关于节点类型r在消息聚合时的注意力权重,t为关系类型集合r中的类型t,是节点i关于节点类型t在消息聚合时的注意力权重,q是第二相似性的函数,w4为第二共享参数;在节点图和边图两个视角下,分别将和作为hv在类型级注意力层进行消息聚合,得到节点图的节点嵌入向量和边图的节点嵌入向量。
16.s23,对节点图的节点嵌入向量进行拼接得到间接边嵌入向量,将边图的节点嵌入向量作为直接边嵌入向量,根据视觉一致性原则对间接边嵌入向量和直接边嵌入向量进行协同训练,实现信息互补,从而得到节点图的最终节点嵌入向量,并使用交叉熵计算损失函数,通过最小化损失函数进行节点嵌入模型的训练。
17.视觉一致性旨在提高节点嵌入向量的有效性,其核心思想是从两个视角(即本案中的节点图和边图)同时进行节点嵌入,使得这两个视角下得到的嵌入向量能够相互学习和互相补充,从而达到更有效的节点嵌入向量的目的。通过这种协同学习的方式使得模型对于节点图中的节点嵌入向量能够好反映链路的特性。
18.其中,损失函数满足以下条件式:其中,损失函数满足以下条件式:其中,l表示节点嵌入模型的整体损失值,表示边图中的节点,表示边图中的关系集合,为交叉熵损失值,为节点图中节点i的嵌入向量,为节点图中节点j的嵌入向量,ln表示对数函数。
19.步骤s3,将需要预测的异质网络链路所连接的两个目标节点输入至节点嵌入模型中,得到两个目标节点对应的节点图的最终节点嵌入向量,对两个目标节点对应的节点图的最终节点嵌入向量进行拼接得到边嵌入向量,并将边嵌入向量输入至链路预测模型中,得到预测结果。
20.本实施例中,链路预测模型为多层感知机模型,链路预测模型的预测输出结果的范围为[0, 1],当预测输出结果大于0.5时,判定链路存在,其中,链路预测模型满足以下条
件式:其中,res表示预测输出结果,和是链路预测模型的激活函数,和分别表示两个目标节点对应的节点图的最终节点嵌入向量,w5和w6是链路预测模型的权重矩阵,b5和b6是链路预测模型的偏置系数。
[0021]
综上,根据本发明提供的基于视觉一致性的异质网络链路预测方法,本发明将同质网络中的边图拓展到异质网络中,即在构建异质网络的节点图的同时,构建了边图,使得异质网络链路预测能够从节点的角度转向边的角度,在异质网络的节点图和异质边图中进行嵌入学习,并基于视觉一致性进行协同对比得到节点图的最终节点嵌入向量,该最终节点嵌入向量能够融合更全面结构信息和内容信息,提高了链路预测任务中构建边嵌入向量的有效性,从而提高了链路预测任务的准确性。
[0022]
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、
ꢀ“
示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
[0023]
尽管已经示出和描述了本发明的实施例,本领域的普通技术人员可以理解:在不脱离本发明的原理和宗旨的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由权利要求及其等同物限定。
技术特征:
1.一种基于视觉一致性的异质网络链路预测方法,其特征在于,包括:步骤s1,接收原始网络数据,根据原始网络数据构建异质网络的节点图,并根据节点与边的连接状况将节点图转换为边图;步骤s2,构建节点嵌入模型,在节点嵌入模型中,基于节点图,获得节点图的节点嵌入向量,通过对节点图的节点嵌入向量进行拼接得到间接边嵌入向量;基于边图,获得边图的节点嵌入向量,将边图的节点嵌入向量作为直接边嵌入向量,再根据视觉一致性原则对间接边嵌入向量和直接边嵌入向量进行协同训练,实现信息互补,从而得到节点图的最终节点嵌入向量;步骤s3,将需要预测的异质网络链路所连接的两个目标节点输入至节点嵌入模型中,得到两个目标节点对应的节点图的最终节点嵌入向量,对两个目标节点对应的节点图的最终节点嵌入向量进行拼接得到边嵌入向量,并将边嵌入向量输入至链路预测模型中,得到预测结果。2.根据权利要求1所述的基于视觉一致性的异质网络链路预测方法,其特征在于,步骤s1中,节点图转换为边图的转换规则为:边图中的节点是节点图中的连边,若节点图中的两条边存在一个公共端点,则这两条边在边图中所表示的节点之间存在连边,并且根据节点图中边所连接的节点类型,对边图中节点与关系划进行类型划分。3.根据权利要求2所述的基于视觉一致性的异质网络链路预测方法,其特征在于,所述节点嵌入模型包括全连接层、节点级注意力层、类型级注意力层,步骤s2具体包括:s21,使用全连接层对节点图和边图中的节点进行特征处理,在节点图中,采用全连接层将不同类型的节点初始特征向量投影到相同的潜在向量子空间;在边图中,先将每个连边在节点图中连接的两个节点的节点初始特征向量进行拼接,从而构建边图中节点的初始特征向量,之后使用全连接层对边图中节点的初始特征向量进行特征投影;s22,在节点图和边图中,通过节点级注意力层,将节点邻域内同一类型的邻居节点进行消息聚合,得到邻域中所有的类型的节点级特征向量,再使用类型级注意力机制进行消息聚合,分别获得节点图的节点嵌入向量和边图的节点嵌入向量;s23,对节点图的节点嵌入向量进行拼接得到间接边嵌入向量,将边图的节点嵌入向量作为直接边嵌入向量,根据视觉一致性原则对间接边嵌入向量和直接边嵌入向量进行协同训练,实现信息互补,从而得到节点图的最终节点嵌入向量,并使用交叉熵计算损失函数,通过最小化损失函数进行节点嵌入模型的训练。4.根据权利要求3所述的基于视觉一致性的异质网络链路预测方法,其特征在于,步骤s21满足以下条件式:其中,表示节点i的节点初始特征向量,是关于节点类型r的第一权重矩阵,是关于节点类型r的第一偏置系数,是节点i经过特征投影后的特征向量;步骤s21还满足以下条件式:
其中,表示边图中的节点的初始特征向量,表示节点j的节点初始特征向量,表示拼接操作;表示边图中的节点经过特征投影后的特征向量,是关于节点类型r的第二权重矩阵,是关于节点类型r的第二偏置系数。5.根据权利要求4所述的基于视觉一致性的异质网络链路预测方法,其特征在于,步骤s22中,节点级注意力层进行消息聚合的公式为:其中,表示节点级注意力层消息聚合后的特征向量,表示节点i的节点类型为r的邻居集,v表示邻居集中的节点,是节点i关于节点v的节点级注意力权重;h
v
表示节点v在消息聚合时初始的特征向量,对于节点图,h
v
取,对于边图,h
v
取;节点级注意力权重的计算公式为:其中,是归一化函数,是节点i和节点v的相似系数,exp表示指数函数,k是邻居集中的节点,是节点i和节点k的相似系数;相似系数的计算公式为:其中,是激活函数,是第一相似性的函数,w3为第一共享参数,h
i
表示节点i在消息聚合时初始的特征向量。6.根据权利要求5所述的基于视觉一致性的异质网络链路预测方法,其特征在于,步骤s22中,类型级注意力层进行消息聚合的公式为:s22中,类型级注意力层进行消息聚合的公式为:s22中,类型级注意力层进行消息聚合的公式为:其中,是节点i经过类型级注意力层的消息聚合后得到的特征向量,r是异质网络中的关系类型集合,是节点i关于节点类型r的类型级注意力权重;是节点i关于节点类
型r在消息聚合时的注意力权重,t为关系类型集合r中的类型t,是节点i关于节点类型t在消息聚合时的注意力权重,q是第二相似性的函数,w4为第二共享参数;在节点图和边图两个视角下,分别将和作为h
v
在类型级注意力层进行消息聚合,得到节点图的节点嵌入向量和边图的节点嵌入向量。7.根据权利要求6所述的基于视觉一致性的异质网络链路预测方法,其特征在于,步骤s23中,损失函数满足以下条件式:s23中,损失函数满足以下条件式:其中,l表示节点嵌入模型的整体损失值,表示边图中的节点,表示边图中的关系集合,为交叉熵损失值,为节点图中节点i的嵌入向量,为节点图中节点j的嵌入向量,ln表示对数函数。8.根据权利要求7所述的基于视觉一致性的异质网络链路预测方法,其特征在于,步骤s3中,链路预测模型为多层感知机模型,链路预测模型的预测输出结果的范围为[0, 1],当预测输出结果大于0.5时,判定链路存在,其中,链路预测模型满足以下条件式:其中,res表示预测输出结果,和是链路预测模型的激活函数,和分别表示两个目标节点对应的节点图的最终节点嵌入向量,w5和w6是链路预测模型的权重矩阵,b5和b6是链路预测模型的偏置系数。
技术总结
本发明提供一种基于视觉一致性的异质网络链路预测方法,包括:步骤S1,接收原始网络数据,根据原始网络数据构建异质网络的节点图,并根据节点与边的连接状况将节点图转换为边图;步骤S2,构建节点嵌入模型;步骤S3,将需要预测的异质网络链路所连接的两个目标节点输入至节点嵌入模型中,得到两个目标节点对应的节点图的最终节点嵌入向量,对两个目标节点对应的节点图的最终节点嵌入向量进行拼接得到边嵌入向量,并将边嵌入向量输入至链路预测模型中,得到预测结果。本发明能够提高链路预测的准确性。的准确性。的准确性。
技术研发人员:王鹏涛 舒坚 舒馨
受保护的技术使用者:南昌航空大学
技术研发日:2023.08.14
技术公布日:2023/9/13
版权声明
本文仅代表作者观点,不代表航家之家立场。
本文系作者授权航家号发表,未经原创作者书面授权,任何单位或个人不得引用、复制、转载、摘编、链接或以其他任何方式复制发表。任何单位或个人在获得书面授权使用航空之家内容时,须注明作者及来源 “航空之家”。如非法使用航空之家的部分或全部内容的,航空之家将依法追究其法律责任。(航空之家官方QQ:2926969996)
航空之家 https://www.aerohome.com.cn/
飞机超市 https://mall.aerohome.com.cn/
航空资讯 https://news.aerohome.com.cn/