申请/专利权人：成都信息工程大学

申请日：2023-11-17

公开（公告）日：2024-03-22

公开（公告）号：CN117743475A

主分类号：G06F16/28

分类号：G06F16/28;G06F40/295;G06F40/30;G06N3/0464;G06N3/045;G06N3/0442;G06F18/213;G06F18/25

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.04.09#实质审查的生效;2024.03.22#公开

摘要：本发明属于自然语言处理技术领域，公开了一种基于多粒度混合注意力的数据发现的实体关系联合抽取方法及系统，包括：以表格空间的形式标记实体和关系的位置，将文本送入预训练模型Bert中，得到文本的语义信息；通过CNN模块得到语义信息中的局部特征信息；通过多头注意力模块得到全局和局部注意力信息；通过门控单元得到实体特征信息；利用多头注意力模块，得到融合了实体特征的实体注意力信息；通过门控单元得到实体关系联合特征信息，将其输入到双仿射模型，完成实体和关系的联合抽取。本发明更好地融合了上下文信息来处理多义性，更准确地识别实体和关系，提高了联合抽取的精度。

主权项：1.一种基于多粒度混合注意力的数据发现的实体关系联合抽取方法，其特征在于，包括：步骤一，以表格空间的形式标记实体和关系的位置，将文本数据输入Bert预训练模型，获得每个单词的上下文表示，捕捉D维的文本语义信息M1；步骤二，将文本语义信息M1输入到CNN模块，提取局部特征信息M5；步骤三，将文本语义信息M1输入到第一个多头注意力模块，形成全局注意力信息E1，将局部特征信息M5输入到第二个多头注意力模块，形成局部注意力信息E2；步骤四，将文本语义信息M1、全局注意力信息E1和局部注意力信息E2相加，然后将其输入到门控单元，获得实体的特征信息D2；步骤五，将文本局部特征信息M5与实体特征信息D2相加，并通过一个小残差网络和LayerNorm层进行进一步处理，将这融合后的信息用作多头注意力模块的k值，同时使用文本语义信息M1作为第三个多头注意力模块的v值，实体特征信息D2作为第三个多头注意力模块的q值,得到融合了实体特征的实体注意力信息E3；步骤六，将语义信息M1、全局注意力信息E1和实体注意力信息E3相加后输入到门控单元得到实体关系联合特征信息，将其输入到双仿射模型完成实体和关系的联合抽取。

全文数据：

权利要求：

百度查询： 成都信息工程大学 一种数据发现的实体关系联合抽取方法及系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD