申请/专利权人：哈尔滨工业大学(威海);南京龙垣信息科技有限公司

申请日：2023-11-03

公开（公告）日：2024-04-16

公开（公告）号：CN117473124B

主分类号：G06F16/901

分类号：G06F16/901;G06F16/835;G06N3/0895

优先权：

专利状态码：有效-授权

法律状态：2024.04.16#授权;2024.02.20#实质审查的生效;2024.02.20#著录事项变更;2024.01.30#公开

摘要：本发明涉及图表示学习与图数据挖掘技术领域，具体涉及一种具备抵制过度平滑能力的自监督异质图表示学习方法；通过GNN分支和Transformer分支在不同视角下对节点信息进行编码，基于两个视角的信息建立对比学习任务，实现无需样本标注条件下的自监督异质图表示学习，解决了现有GNN消息传递机制的过度平滑限制网络层数的扩展，从而导致模型在面对复杂图数据的表达能力不足的问题，大大增强了模型对远距离邻域信息的捕捉能力。

主权项：1.一种具备抵制过度平滑能力的自监督异质图表示学习方法，应用于推荐系统或智能交通系统，其特征在于，包括如下步骤：步骤一：读取图中的节点属性、节点类别、节点之间的异质邻接关系，将处于不同空间的不同维度的节点特征映射至一个统一的空间中，并实现特征维度的统一；步骤二：采用Metapath-awareHop2Token将异质图中不同距离的邻居节点转化为Token序列，采用将节点的同一hop的邻居节点信息作为一个token的策略，面向不同的元路径获得不同hop的邻居节点，得到每一个元路径下的token序列；步骤三：在Graphschema视图分支中，采用Relation-awareGCN对异质图进行编码，获得节点在Graphschema视图下的表示；步骤四：在Hops视图分支中，采用协同GNN的异质Transformer模型对异质图进行编码，获得节点在Hops视图下的表示；步骤五：采用Graphschema视图分支和Hops视图分支的编码信息建立联合比对学习任务；步骤六：根据所建立的联合比对学习任务优化函数对模型参数进行迭代优化，直到达到迭代次数、精度需求；在步骤三：在Graphschema视图分支中，采用Relation-awareGCN对异质图进行编码，获得节点在Graphschema视图下的表示的步骤中：采用如下的公式进行信息聚集: ； ； 其中，为节点在关系下的直接相邻的邻居节点集合，为归一化常数，为步骤一中获得的映射到统一空间的节点特征，最终获得任一节点在Graphschema视图下的向量表示；在步骤四：在Hops视图分支中，采用协同GNN的异质Transformer模型对异质图进行编码，获得节点在Hops视图下的表示的步骤中：在得到每一个元路径下的token序列之后，将每个元路径下的子序列输入到对应的Transformerencoder中进一步挖掘相同路径下不同的hop邻居节点之间的语义关系，获得了节点在每个元路径下的token序列表示；在步骤四：在Hops视图分支中，采用协同GNN的异质Transformer模型对异质图进行编码，获得节点在Hops视图下的表示的步骤之后：提出HierarchicalAttention的信息聚集模型，其中信息聚集模型包含Token-level和Semantic-level两个层次的注意力信息聚集；在Token-level信息聚集中，实现对不同token之间的信息聚集，获得每个元路径下的节点表示；在Semantic-level信息聚集中，对来自不同元路径下的节点表示进行信息聚集操作，获得任一节点在Hops视图下最终的向量表示；在步骤六：根据所建立的联合比对学习任务优化函数对模型参数进行迭代优化，直到达到迭代次数、精度需求的步骤中：联合比对学习任务优化函数为： ；其中，为异质图中的节点集合，为平衡两个视图的平衡系数，从GraphSchema视图到Hops视图的对比损失为： ；其中，为向量和的余弦相似度，为温度参数；从Hops视图到GraphSchema视图的对比损失为： ；其中，为节点的正样本集合，为节点的负样本集合。

全文数据：

权利要求：

百度查询： 哈尔滨工业大学(威海);南京龙垣信息科技有限公司 一种具备抵制过度平滑能力的自监督异质图表示学习方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD