买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】针对基于能量的模型的朗之万流和标准化流的合作学习_百度(美国)有限责任公司_202311017901.7 

申请/专利权人:百度(美国)有限责任公司

申请日:2023-08-11

公开(公告)日:2024-03-19

公开(公告)号:CN117726013A

主分类号:G06N20/20

分类号:G06N20/20;G06N7/01;G06F18/214

优先权:["20220919 US 17/947,963"]

专利状态码:在审-实质审查的生效

法律状态:2024.04.05#实质审查的生效;2024.03.19#公开

摘要:生成框架的实施例包括两个生成流模型的合作学习,其中,两个模型基于联合合成示例迭代更新。在一个或多个实施例中,第一流模型是通过应用一系列可逆变换将初始简单密度变换为目标密度的标准化流,而第二流模型是朗之万流,朗之万流针对基于能量的模型运行基于梯度的MCMC的有限步骤。在学习迭代中,通过使用标准化流初始化,然后针对当前基于能量的模型进行短期朗之万流修正,来生成合成示例。然后,合成示例可以被视为来自基于能量的模型的公平样本,并且对模型参数进行更新,而标准化流通过最大化易处理的似然来直接从合成示例中学习。还提供了实施例的理论和经验论证。

主权项:1.一种计算机实现的方法,包括:对标准化流神经网络的标准化流参数以及基于能量的模型的基于能量的模型参数初始化;以及执行步骤集,直到达到停止条件,所述步骤集包括:对于从未知数据分布采样的每个训练信号:生成从正态分布采样的初始信号;使用标准化流神经网络变换所述初始信号,以获得标准化流生成的信号;以及通过马尔可夫链蒙特卡洛采样过程,使用所述基于能量的模型并使用所述标准化流生成的信号作为所述马尔可夫链蒙特卡洛采样过程的初始起点来生成合成信号;使用合成信号集以及与所述合成信号集相对应的标准化流生成的信号集来更新所述标准化流神经网络的所述标准化流参数;以及通过使用包括所述合成信号集以及与所述合成信号集相对应的训练信号集的比较来更新所述基于能量的模型的所述基于能量的模型参数。

全文数据:

权利要求:

百度查询: 百度(美国)有限责任公司 针对基于能量的模型的朗之万流和标准化流的合作学习

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。