东南大学余飞扬获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉东南大学申请的专利基于大小模型交互的无监督开放关系抽取文本处理方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119599015B 。
龙图腾网通过国家知识产权局官网在2025-06-13发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411639760.7,技术领域涉及:G06F40/289;该发明授权基于大小模型交互的无监督开放关系抽取文本处理方法是由余飞扬;谢佳锋;柯文俊;汪鹏设计研发完成,并于2024-11-18向国家知识产权局提交的专利申请。
本基于大小模型交互的无监督开放关系抽取文本处理方法在说明书摘要公布了:基于大小模型交互的无监督开放关系抽取文本处理方法,首先,大语言模型从输入语句中生成初步的伪关系标签,为后续的特征关系聚类提供重要线索。其次,这些伪标签被用于小语言模型的监督微调,通过关系实例的特征学习和关系指导反馈算法,产生每个类别的概率分布,并对伪标签进行优化。最后,选择具有高置信度概率的样本作为演示样例,为大语言模型提供正反馈,以重新处理那些具有不确定关系的实例提高关系抽取。InstructORE模型性能优于现有无监督基线模型,并在多数情况下具有与弱监督方法相当的关系抽取性能。本发明为构建知识图谱和知识问答等应用提供了强有力支持,具有广阔的应用前景和推广价值。
本发明授权基于大小模型交互的无监督开放关系抽取文本处理方法在权利要求书中公布了:1.基于大小模型交互的无监督开放关系抽取文本处理方法,其特征在于:包括如下步骤: 1初步关系生成:将句子和对应的实体输入至大语言模型,生成初步的伪关系标签; 利用预训练的大语言模型接收输入的句子和实体对hi,ti,通过设计的提示模板形成指令ci;然后将这些指令用于提示大语言模型来生成初步伪关系标签和实体对标签 2关系识别优化:对第一阶段生成的实体类型和关系标签进行聚类和细化,以自监督的方式训练小语言模型,从而获取每个输入句子的输出标签在所有当前聚类类别上的细粒度概率分布; 采用预训练的小语言模型对实体的文本描述进行编码表示,得到初步伪标签在原句si中的上下文特征fi;通过自适应聚类策略对获得的初步特征集进行聚类,并使用该聚类类别作为训练集对小语言模型进行微调以获得细化后的伪标签li;使用这些优化后的伪标签作为自监督信号进一步微调小语言模型; 3指导性关系演示反馈:选择具有高置信度概率的样本作为演示样例,为大语言模型提供正反馈,用于重新处理具有不确定关系的实例,以提升标签的精度和质量; 使用经过微调后的小语言模型在每个样本si,hi,ti的所有伪标签li的上生成概率分布pi,然后基于熵驱动的演示样例选择机制,使用熵测量每个实例的不确定性水平,选择具有高置信度概率分布的样本,即熵值Hpi低于阈值的样本作为演示样例,这些样本被放置于样本演示池中,用于指导大语言模型重新处理那些具有不确定关系的实例,以提供更精准的伪关系标签。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人东南大学,其通讯地址为:210000 江苏省南京市江宁区东南大学路2号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。