申请/专利权人:北京瑞莱智慧科技有限公司
申请日:2022-12-22
公开(公告)日:2024-04-30
公开(公告)号:CN115984792B
主分类号:G06V20/56
分类号:G06V20/56;G06V20/40;G06V10/774;G06F30/15;G06F30/20
优先权:["20220930 CN 2022112147641"]
专利状态码:有效-授权
法律状态:2024.04.30#授权;2023.05.05#实质审查的生效;2023.04.18#公开
摘要:本申请实施例涉及人工智能领域,提供一种对抗测试方法、系统及存储介质。方法应用于对抗测试系统,对抗测试系统包括仿真平台和自动驾驶车辆感知模型,仿真平台包括第一显示区域和第二显示区域;第二显示区域显示有按照预设脚本行驶状态的目标车辆,第一显示区域包含有多个候选对抗图案;该方法包括:获取对抗样本;以车载相机视角对包含对抗样本的仿真测试场景进行图像采集,得到视频流,传输至自动驾驶车辆感知模型;基于所述自动驾驶车辆感知模型对视频流进行处理,得到目标车辆的测试结果;对抗样本的获得方法包括:从预设目标对象库中获取当前测试环境所需的至少一个目标对象;对所述至少一个目标对象进行对抗扰动处理,得到目标对抗样本。
主权项:1.一种对抗测试方法,其特征在于,所述方法应用于对抗测试系统,所述对抗测试系统包括仿真平台和自动驾驶车辆感知模型,所述仿真平台显示界面包括第一显示区域和第二显示区域;所述第二显示区域显示有按照预设脚本行驶状态的目标车辆,所述第一显示区域包含有多个候选对抗图案;所述方法包括:获取对抗样本;以车载相机视角对包含所述对抗样本的仿真测试场景进行图像采集,得到视频流,基于自动化接口导入所述自动驾驶车辆感知模型;基于所述自动驾驶车辆感知模型对所述视频流进行处理,得到所述目标车辆的测试结果;其中,所述对抗样本的获得方法包括:从预设目标对象库中获取当前测试环境所需的至少一个目标对象;对所述至少一个目标对象进行对抗扰动处理,得到对抗样本;所述基于所述自动驾驶车辆感知模型对所述视频流进行处理包括:基于所述自动驾驶车辆感知模型对所述视频流中所述对抗样本进行识别,得到第一置信度和第二置信度,将第一置信度与第二置信度进行比较获得目标车辆的驾驶指令;所述第一置信度为所述自动驾驶车辆感知模型将目标对抗样本识别为非所述目标对象时的置信度;所述第二置信度为所述自动驾驶车辆感知模型将所述目标对抗样本识别为所述目标对象时的置信度;所述从预设目标对象库中获取当前测试环境所需的至少一个目标对象,对所述至少一个目标对象进行对抗扰动处理,得到对抗样本包括:响应用户从所述第二显示区域选定目标对象的指令,从所述第二显示区域选定所述目标对象;响应所述用户的选定对抗图案的第一操作指令,从预设算法库中选定对抗图案;利用所述对抗图案对所述目标对象的有效区域添加对抗扰动,得到所述对抗样本;所述基于所述自动驾驶车辆感知模型对所述视频流进行处理还包括:若所述第一置信度不高于所述第二置信度,则调整所述对抗图案,利用调整后的所述对抗图案对所述仿真测试场景中的所述至少一个目标对象重新进行扰动处理得到对抗样本,直至所述第一置信度高于所述第二置信度。
全文数据:
权利要求:
百度查询: 北京瑞莱智慧科技有限公司 一种对抗测试方法、系统及存储介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。