申请/专利权人:浙江大学
申请日:2023-11-30
公开(公告)日:2024-03-19
公开(公告)号:CN117726857A
主分类号:G06V10/764
分类号:G06V10/764;G06V10/82;G06N3/096;G06N3/0464;G06N3/0475;G06N3/045;G06N3/094
优先权:
专利状态码:在审-实质审查的生效
法律状态:2024.04.05#实质审查的生效;2024.03.19#公开
摘要:本发明公开了一种无数据条件下的模型鲁棒性增强方法,属于信息安全技术领域。通过利用一个训练好的教师模型,一个随机初始化的生成器和一个学生模型,实现了在不依赖于额外的数据或标签的情况下,提高模型对于任意扰动的鲁棒性。该方法主要包括以下步骤:预设一个训练好的教师模型以及随机初始化的生成器和学生模型;构建深度反演损失函数优化生成器;利用生成的图像,构建蒸馏损失函数对学生模型进行优化操作;在学生模型上生成对抗性样本,根据生成的对抗样本计算对抗权重的扰动,利用得到的扰动更新学生模型参数。本发明实现了在不依赖于额外的数据或标签的情况下,提高了模型对于任意扰动的鲁棒性。
主权项:1.一种无数据条件下的模型鲁棒性增强方法,其特征在于,预设一个随机初始化的生成器和学生模型,基于一个已知教师模型对学生模型进行训练;所述学生模型的具体训练过程如下:分别构建one-hot损失函数、特征分布正则化损失函数和图像生成损失函数;组合one-hot损失函数、特征分布正则化损失函数和图像生成损失函数,获得深度反演损失函数;构建蒸馏损失函数,从而使学生模型和教师模型输出趋于一致;利用深度反演损失函数对生成器进行优化操作,输出本次优化后生成器合成的图像,并将本次优化后生成器合成的图像分别输入至学生模型和教师模型,通过蒸馏损失函数对学生模型进行优化操作;在学生模型上生成对抗样本,根据生成的对抗样本计算对抗权重的扰动,利用得到的扰动更新学生模型参数。
全文数据:
权利要求:
百度查询: 浙江大学 一种无数据条件下的模型鲁棒性增强方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。