申请/专利权人:南京信息工程大学
申请日:2024-03-20
公开(公告)日:2024-04-30
公开(公告)号:CN117951506A
主分类号:G06F18/2134
分类号:G06F18/2134;G06F18/214;G06F18/24
优先权:
专利状态码:在审-实质审查的生效
法律状态:2024.05.17#实质审查的生效;2024.04.30#公开
摘要:本发明公开一种基于特征空间频域分布的模型后门攻击方法,属于人工智能安全技术领域;一种基于特征空间频域分布的模型后门攻击方法为:首先逆向生成触发输入,接着利用代码注入的方式将包含分布检测器和木马寄存器的木马结构注入预训练模型中;然后将触发输入输入预训练模型中,来激活所述木马结构;通过将触发分布嵌入模型的特征空间,并利用特征图频域分布的鲁棒性,使模型后门能够抵御模型权重修改攻击,从根本上提高了模型后门的鲁棒性;此外,通过引入木马寄存器结构,可以将木马特征图隐蔽地注入模型中,替换正常特征图而不被察觉;这种隐蔽性使得后门攻击更难被检测到,并增加了攻击的成功率和持久性,且不会影响模型的原始性能。
主权项:1.一种基于特征空间频域分布的模型后门攻击方法,其特征在于,包括以下步骤:利用在预训练模型的特征空间中修改部分特征值的频域分布来逆向生成触发输入;利用代码注入的方式将包含分布检测器和木马寄存器的木马结构注入预训练模型的卷积层中;将触发输入输入预训练模型中,来激活所述木马结构。
全文数据:
权利要求:
百度查询: 南京信息工程大学 一种基于特征空间频域分布的模型后门攻击方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。