申请/专利权人：清华大学深圳国际研究生院

申请日：2024-02-01

公开（公告）日：2024-04-16

公开（公告）号：CN117892792A

主分类号：G06N3/084

分类号：G06N3/084;G06N3/126;G06N3/0495

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.05.03#实质审查的生效;2024.04.16#公开

摘要：一种用于生成图像的扩散模型混合精度量化方法，包括：使用图像训练数据，采用单路径采样的混合精度量化训练策略进行模型的训练，该策略以设定的量化位宽对模型进行训练，并根据模型不同层对量化的敏感性给不同层分配不同的量化位宽，通过模型的向前和向后传播更新对应的量化位宽和量化参数，训练得到混合精度量化超网；运用基于时间步长的遗传算法进行搜索，根据时间步长动态调整量化位宽的配置，通过突变和交叉操作生成新的候选方案，候选方案包含不同的时间步长和量化位宽的组合，以表现最优的候选方案作为最终方案，得到最终的用于生成图像的扩散模型。本发明的方法能够降低部署的内存开销，节省相关的存储资源，提高模型的生成速度和质量。

主权项：1.一种用于生成图像的扩散模型混合精度量化方法，其特征在于，包括：第一阶段：使用图像训练数据，采用单路径采样的混合精度量化训练策略进行模型的训练，该策略以设定的量化位宽对模型进行训练，并根据模型不同层对量化的敏感性给不同层分配不同的量化位宽，通过模型的向前和向后传播更新对应的量化位宽和量化参数，以最小化损失误差，经过训练后得到一个混合精度量化超网；第二阶段：在训练得到的混合精度量化超网上运用基于时间步长的遗传算法进行搜索，所述遗传算法在搜索过程中根据时间步长动态调整量化位宽的配置，通过突变和交叉操作生成新的候选方案，所述候选方案包含不同的时间步长和量化位宽的组合，通过方案评估方法维护表现最佳的候选方案集合，以表现最优的候选方案作为最终方案，确定最优的模型配置，从而得到最终的用于生成图像的扩散模型。

全文数据：

权利要求：

百度查询： 清华大学深圳国际研究生院 一种用于生成图像的扩散模型混合精度量化方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD