申请/专利权人:科大讯飞(苏州)科技有限公司
申请日:2023-12-19
公开(公告)日:2024-03-29
公开(公告)号:CN117787294A
主分类号:G06F40/58
分类号:G06F40/58;G06F40/42;G06F18/214
优先权:
专利状态码:在审-实质审查的生效
法律状态:2024.04.16#实质审查的生效;2024.03.29#公开
摘要:本申请公开了一种长文档跨语言摘要生成及模型训练方法、装置及相关设备,基于不同领域间跨语言摘要生成任务的相似性,将长文档跨语言摘要生成模型在数据量充足的源域上进行训练,然后让模型在数据稀缺的目标域上进行微调学习,在目标域训练数据不足时,实现了长文档跨语言摘要模型端到端的训练过程。训练分为两个阶段,第一阶段按照第一训练任务训练长文档跨语言摘要模型,第一训练任务包括两类子任务,分别为在源域上进行跨语言摘要生成任务的训练,以及在目标域上进行单语种摘要生成和摘要翻译的训练;第二阶段按照第二训练任务对模型进行微调训练,第二训练任务包括在目标域上进行跨语言摘要生成任务的训练。
主权项:1.一种长文档跨语言摘要模型的训练方法,其特征在于,包括:按照第一训练任务训练初步的长文档跨语言摘要模型,所述第一训练任务包括两类子任务,分别为在源域上进行跨语言摘要生成任务的训练,以及,在目标域上进行单语种摘要生成和摘要翻译的训练;按照第二训练任务对所述初步的长文档跨语言摘要模型进行微调训练,得到应用于所述目标域的长文档跨语言摘要模型,其中,所述第二训练任务包括在所述目标域上进行跨语言摘要生成任务的训练;所述源域为设定的训练数据量充足的领域,所述目标域为设定的训练数据稀缺的领域。
全文数据:
权利要求:
百度查询: 科大讯飞(苏州)科技有限公司 长文档跨语言摘要生成及模型训练方法、装置及相关设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。