买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】一种基于维度提升网络的轻量级知识图谱表示学习方法_中图科信数智技术(北京)有限公司_202310762258.4 

申请/专利权人:中图科信数智技术(北京)有限公司

申请日:2023-06-26

公开(公告)日:2024-01-09

公开(公告)号:CN117371520A

主分类号:G06N5/02

分类号:G06N5/02;G06N3/0464;G06N3/08

优先权:

专利状态码:在审-实质审查的生效

法律状态:2024.01.26#实质审查的生效;2024.01.09#公开

摘要:本发明公开了一种基于维度提升网络的轻量级知识图谱表示学习方法,所述方法包括:以三元组集合的形式描述知识图谱;定义实体和关系的不同初始表示向量;构建基于多层转置卷积的实体维度提升网络;通过实体维度提升网络,将低维实体向量提升至高维;将提升得到的高维实体向量应用于基于三元组的能量函数;学习初始低维度实体向量和实体维度提升网络的参数。本发明将知识图谱表示学习中实体向量视为单层表示学习网络,通过在该网络后叠加一种基于转置卷积的多层维度提升网络,来提高低维度实体向量的表示能力,进而实现轻量级知识图谱表示学习。该方法比现有方法更简单、更直接的提高实体向量的表示能力。

主权项:1.一种基于维度提升网络的轻量级知识图谱表示学习方法,其特征在于:该基于维度提升网络的轻量级知识图谱表示学习方法具体步骤如下:步骤1,将知识图谱表示为三元组,知识图谱由实体和实体间的关系组成,知识图谱一般以异构图的形式存储在图数据库中,表示为一个三元组集合,集合中单个三元组代表知识图谱中的一个独立的知识,形式为头实体、关系合尾实体,简写为h,r,t;步骤2,构建实体和关系的初始向量表示,将实体和关系分别初始化为两种类型的向量,用于学习知识图谱中实体和关系的结构信息。由于现实知识图谱中实体的数量指数级大于关系的数量对关系采用高维度的n-维向量表示同时,为实现轻量级模型,对实体采用低维度的m-维向量表示m远小于n;步骤3,构建实体向量维度提升网络,将实体的低维度向量e1||e2||...||ek视为一个单层的表示学习网络,在该网络后叠加一个多层维度提升网络fx,来将低维度的实体向量提升到高维提高实体向量的表示能力,将模型中实体向量的参数从km减少到km+Pnet,Pnet是实体维度提升网络的参数量并且其小于km,和传统高维度实体向量相比,只需要的参数量;步骤4,通过负采样获取负样本,除了知识图谱原有的三元组外,利用负采样的方式为每个三元组获取额外的负样本,提高学习到的实体关系向量和维度提升网络的效果;步骤5,设计三元组的能量函数,为知识图谱设计基于单个三元组的能量函数,以此学习实体关系的表示向量和维度提升网络的模型参数,能量函数用于表示一个三元组s=h,r,t的能量值,采用将关系当作头实体和尾实体之间的翻译操作的向量运算,即φs=||feh+er-fet||;步骤6,基于边缘损失函数的模型学习,采用边缘损失函数作为优化目标,由知识图谱中的三元组和产生的负样本学习实体关系向量和实体维度提升网络的参数,形式为loss=min∑φs-φs′+λ,其中λ是用于调节正反样本之间距离的常数。

全文数据:

权利要求:

百度查询: 中图科信数智技术(北京)有限公司 一种基于维度提升网络的轻量级知识图谱表示学习方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

相关技术
相关技术
相关技术
相关技术