申请/专利权人：湘江实验室

申请日：2024-03-05

公开（公告）日：2024-04-09

公开（公告）号：CN117852627A

主分类号：G06N3/098

分类号：G06N3/098;G06F18/214;G06N3/082;G06N3/084

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.04.26#实质审查的生效;2024.04.09#公开

摘要：本发明公开了一种预训练模型微调方法及系统，该方法包括：服务端对医疗预训练全局模型进行预处理，得到具有冻结参数和可调节LoRA参数的医疗预训练全局模型；终端侧将本地医疗任务数据输入至该医疗预训练全局模型中进行计算，得到初始输出结果；利用噪声数据对初始输出结果进行调整，得到最终输出结果；基于最终输出结果，对医疗预训练全局模型进行更新；并上传更新后的医疗预训练全局模型；服务端对所有终端上传的医疗预训练全局模型进行联邦聚合处理，得到最终医疗预训练全局模型。本发明通过联邦学习和梯度估计方法的结合，实现了大型模型的微调，从而获得性能更好的结果，有助于提高模型在各种下游任务中的适用性和效能。

主权项：1.一种预训练模型微调方法，其特征在于，包括：服务端对预先获取的医疗预训练全局模型进行预处理，得到具有冻结参数和可调节LoRA参数的医疗预训练全局模型，并对该医疗预训练全局模型进行广播下发；终端侧获取服务端侧广播的具有冻结参数和可调节LoRA参数的医疗预训练全局模型，并将本地医疗任务数据输入至该医疗预训练全局模型中进行计算，得到初始输出结果；终端侧针对所述可调节LoRA参数生成噪声数据，利用所述噪声数据对所述初始输出结果进行调整，得到最终输出结果；基于所述最终输出结果，利用梯度迭代参数估计算法对具有冻结参数和可调节LoRA参数的医疗预训练全局模型进行更新，得到更新后的医疗预训练全局模型；并向服务端侧侧上传更新后的医疗预训练全局模型；服务端对终端侧所有终端上传的更新后的医疗预训练全局模型进行联邦聚合处理，得到最终医疗预训练全局模型；并将所述最终医疗预训练全局模型下发至终端侧的各个终端，促使各个终端根据所述最终医疗预训练全局模型进行数据处理。

全文数据：

权利要求：

百度查询： 湘江实验室 一种预训练模型微调方法及系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD