恭喜浪潮通用软件有限公司宋刚获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜浪潮通用软件有限公司申请的专利大模型解码约束方法、设备及介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119830959B 。
龙图腾网通过国家知识产权局官网在2025-05-13发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510300772.5,技术领域涉及:G06N3/0455;该发明授权大模型解码约束方法、设备及介质是由宋刚;郑伟波;周祥国;韩嘉懿;杜宏伟;丁一凡;郑伟航;王家琦;徐雅迪;高海涛设计研发完成,并于2025-03-14向国家知识产权局提交的专利申请。
本大模型解码约束方法、设备及介质在说明书摘要公布了:本申请公开了大模型解码约束方法、设备及介质,涉及模型处理领域,方法包括:基于FST模型、DFA模型,形成联合约束模型;基于大语言模型进行解码,生成对应词汇表的概率得分;基于联合约束模型对词汇表中的最小文本单元进行排除,输出的指定最小文本单元;基于待判定因子,对指定最小文本单元的结构进行动态调整,更新大语言模型的输出。不强制固定输出格式,允许模型自由生成中间推理步骤,与传统结构化生成相比,避免与自然生成逻辑冲突,保留生成灵活性。
本发明授权大模型解码约束方法、设备及介质在权利要求书中公布了:1.一种大模型解码约束方法,其特征在于,包括:基于有限状态转换器,生成用于将大语言模型输出的最小文本单元还原为字符串的FST模型;并基于确定有限状态自动机,通过对正则表达式进行编译,生成用于对FST模型输出的字符串进行约束条件验证的DFA模型;基于所述FST模型、所述DFA模型,形成联合约束模型;基于大语言模型进行解码,生成对应词汇表的概率得分;基于所述联合约束模型对所述词汇表中的最小文本单元进行排除,输出的指定最小文本单元;基于待判定因子,对所述指定最小文本单元的结构进行动态调整,更新所述大语言模型的输出。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人浪潮通用软件有限公司,其通讯地址为:250101 山东省济南市历下区浪潮路1036号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。