申请/专利权人:华东师范大学;同济大学
申请日:2022-08-15
公开(公告)日:2022-12-20
公开(公告)号:CN115495875A
主分类号:G06F30/20
分类号:G06F30/20;G06V20/58;G06V10/764;G06V10/774;G06V20/70
优先权:
专利状态码:在审-实质审查的生效
法律状态:2023.01.03#实质审查的生效;2022.12.20#公开
摘要:本发明公开了一种基于模型检测的自动驾驶安全攸关对抗样本生成方法,包括如下步骤:步骤一、建模:使用UPPAAL模型检测工具建模自动驾驶系统及交通场景;步骤二、性质刻画及验证分析:使用UPPAAL模型检测工具刻画安全性质,运行UPPAAL模型检测工具中的模型检测器并分析以获得对抗攻击的语义信息;步骤三、对抗攻击:结合攻击的语义信息以及对抗攻击算法攻击自动驾驶系统生成安全攸关的对抗样本;步骤四、仿真:将安全攸关的对抗样本与原始样本替换,在仿真器中模拟运行以观察攻击的结果。本发明生成方法生成的对抗样本既能使得神经网络出错也能够确保自动驾驶车辆发生安全事故。本发明还公开了一种实现上述对抗样本生成方法的系统。
主权项:1.一种基于模型检测的自动驾驶安全攸关对抗样本生成方法,其特征在于,所述方法包括如下步骤:步骤一、建模:使用UPPAAL模型检测工具建模自动驾驶系统及交通场景;步骤二、性质刻画及验证分析:使用UPPAAL模型检测工具刻画安全性质,运行模型检测工具中的模型检测器并分析以获得对抗攻击的语义信息;步骤三、对抗攻击:结合攻击的语义信息以及对抗攻击算法攻击自动驾驶系统生成安全攸关的对抗样本;步骤四、仿真:将安全攸关的对抗样本与原始样本替换,在仿真器中模拟运行以观察攻击的结果。
全文数据:
权利要求:
百度查询: 华东师范大学;同济大学 一种基于模型检测的自动驾驶领域安全攸关对抗样本生成方法及生成系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。