买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】一种基于投影映射的句子语义匹配模型训练方法及系统_桂林电子科技大学_202311606239.9 

申请/专利权人:桂林电子科技大学

申请日:2023-11-28

公开(公告)日:2024-02-23

公开(公告)号:CN117592484A

主分类号:G06F40/30

分类号:G06F40/30;G06F40/151;G06N20/00

优先权:

专利状态码:在审-实质审查的生效

法律状态:2024.03.12#实质审查的生效;2024.02.23#公开

摘要:本发明提供一种基于投影映射的句子语义匹配模型训练方法及系统,涉及句子语义匹配技术领域;本发明通过将待匹配句子对输入句子语义匹配模型,通过语言模型GPT4对待匹配句子对进行特征提取,得到语义特征;通过特征聚合器的点乘注意力机制对语义特征进行计算,得到关键信息;通过特征蒸馏层的投影组件将语义特征投影到关键信息中,得到匹配信息;对匹配信息进行概率计算,得到匹配概率,通过损失函数对匹配概率进行计算,得到损失值;根据损失值对句子语义匹配模型进行优化,得到优化句子语义匹配模型。通过点乘注意力机制提取待匹配句子对的关键信息,以通过投影定理去除待匹配句子对中的冗余信息,以识别出句子最有效的信息特征。

主权项:1.一种基于投影映射的句子语义匹配模型训练方法,其特征在于,包括如下步骤:将待匹配句子对输入句子语义匹配模型,所述句子语义匹配模型包括语言模型GPT4、特征聚合器和特征蒸馏层;通过所述语言模型GPT4对所述待匹配句子对进行特征提取,得到语义特征;通过所述特征聚合器对所述语义特征进行计算,得到关键信息;通过所述特征蒸馏层将所述语义特征投影到所述关键信息中,得到匹配信息;对所述匹配信息进行概率计算,得到匹配概率,通过损失函数对所述匹配概率进行计算,得到损失值;根据所述损失值对所述句子语义匹配模型进行优化,得到优化句子语义匹配模型。

全文数据:

权利要求:

百度查询: 桂林电子科技大学 一种基于投影映射的句子语义匹配模型训练方法及系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。