申请/专利权人：海信电子科技(武汉)有限公司

申请日：2023-07-26

公开（公告）日：2024-04-02

公开（公告）号：CN117809643A

主分类号：G10L15/22

分类号：G10L15/22;G10L15/16;G06F16/332;G06N3/0455;G06N3/088;G06N3/09;H04N21/422;H04N21/439;H04N21/478

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.04.19#实质审查的生效;2024.04.02#公开

摘要：本公开涉及自然语言处理和人工智能技术领域，尤其涉及一种回复模型的训练方法、装置和电子设备，用于解决如何提高回复模型的训练效率成了一个亟待解决的问题。该方法包括：将历史提问数据输入至待优化模型进行学习，得到待优化模型对历史提问数据预测的至少一条候选回复数据，以及每条候选回复数据的评价得分；基于评价得分，确定待优化模型的实际回复结果为最大的评价得分对应的候选回复数据；将历史提问数据输入至奖励模型进行学习，得到奖励模型对历史提问数据的预测回复数据；基于实际回复结果和预测回复数据，确定待优化模型的损失值；基于损失值和损失阈值，调整待优化模型的网络参数，直至待优化模型收敛，得到回复模型。

主权项：1.一种电子设备，其特征在于，包括：通信器，被配置为获取待优化模型、奖励模型和历史提问数据；其中，所述待优化模型和所述奖励模型二者均通过同一训练数据对同一预训练语言模型进行训练所得到的，所述训练数据至少包括训练提问数据、所述训练提问数据对应的至少一条训练回复数据，以及每条所述训练回复数据的评价得分，所述奖励模型的网络参数固定不变；处理器，被配置为将所述通信器获取的所述历史提问数据输入至所述通信器获取的所述待优化模型进行学习，得到所述待优化模型对所述历史提问数据预测的至少一条候选回复数据，以及每条所述候选回复数据的评价得分；所述处理器，还被配置为基于所述评价得分，确定所述待优化模型的实际回复结果为最大的所述评价得分对应的候选回复数据；所述处理器，还被配置为将所述通信器获取的所述历史提问数据输入至所述通信器获取的所述奖励模型进行学习，得到所述奖励模型对所述历史提问数据的预测回复数据；所述处理器，还被配置为基于所述实际回复结果和所述预测回复数据，确定所述待优化模型的损失值；所述处理器，还被配置为基于所述损失值和损失阈值，调整所述待优化模型的网络参数，直至所述待优化模型收敛，得到回复模型。

全文数据：

权利要求：

百度查询： 海信电子科技(武汉)有限公司 一种回复模型的训练方法、装置和电子设备

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD