买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉山东浪潮科学研究院有限公司申请的专利大型语言模型的训练方法、系统、设备及存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119416853B 。

龙图腾网通过国家知识产权局官网在2025-06-24发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510026862.X，技术领域涉及：G06N3/084；该发明授权大型语言模型的训练方法、系统、设备及存储介质是由张其来;张吉臣;张思嘉;段强;魏子重;姜凯;李锐设计研发完成，并于2025-01-08向国家知识产权局提交的专利申请。

本大型语言模型的训练方法、系统、设备及存储介质在说明书摘要公布了：本发明涉及人工智能技术领域，具体提供一种大型语言模型的训练方法、系统、设备及存储介质，包括：基于任务难度和任务多样性需求采集任务样本；获取任务样本的支持集和查询集，并对支持集进行数据增强处理；利用支持集对元模型进行内循环训练，并利用查询集对经过内循环训练的元模型进行外循环训练，得到元梯度；汇总元梯度，利用自适应优化器基于元梯度汇总数据更新全局模型。本发明提升了大型语言模型对任务类型的适应能力。

本发明授权大型语言模型的训练方法、系统、设备及存储介质在权利要求书中公布了：1.一种大型语言模型的训练方法，其特征在于，包括： 基于任务难度和任务多样性需求采集任务样本； 获取任务样本的支持集和查询集，并对支持集进行数据增强处理； 利用支持集对元模型进行内循环训练，并利用查询集对经过内循环训练的元模型进行外循环训练，得到元梯度； 汇总元梯度，利用自适应优化器基于元梯度汇总数据更新全局模型； 确认任务多样性，包括： 利用TF-IDF方法将任务表示为特征向量： 其中，TFw,Ti代表词语w在任务Ti中的词频；逆文档频率 代表候选的任务总数； 计算任务Ti与已采样任务集中的每个任务的余弦相似度： 其中，是任务Ti的TF-IDF向量，是任务Tj的TF-IDF向量； 基于所述余弦相似度计算任务多样性： 所述任务多样性为任务Ti与已采样任务集的平均距离； 汇总元梯度，利用自适应优化器基于元梯度汇总数据更新全局模型，包括： AdaptiveOptimizer限定了更新规则，对于时间步t的梯度gt，所述更新规则包括： mt＝β1mt-1+1-β1gt 其中mt,vt是共享的一阶和二阶动量，gt代表当前梯度，∈代表小常数，防止除零错误,是偏差修正后的一阶和二阶动量估计，β1,β2是动量衰减率的不同取值，η是学习率，λ是权重衰减系数； 获取任务难度，包括： 任务难度的计算公式为： 其中，是模型fθ在任务Ti的验证集上的准确率；是所有任务中的最高准确率； 对任务难度进行归一化处理，得到任务的任务难度量化值。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人山东浪潮科学研究院有限公司，其通讯地址为：250000 山东省济南市高新浪潮路1036号S02号楼；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。