科研之友
微信
新浪微博
Facebook
分享链接
摘要
本发明公开了一种基于模型检测的自动驾驶安全攸关对抗样本生成方法,包括如下步骤：步骤一、建模：使用UPPAAL模型检测工具建模自动驾驶系统及交通场景；步骤二、性质刻画及验证分析：使用UPPAAL模型检测工具刻画安全性质,运行UPPAAL模型检测工具中的模型检测器并分析以获得对抗攻击的语义信息；步骤三、对抗攻击：结合攻击的语义信息以及对抗攻击算法攻击自动驾驶系统生成安全攸关的对抗样本；步骤四、仿真：将安全攸关的对抗样本与原始样本替换,在仿真器中模拟运行以观察攻击的结果。本发明生成方法生成的对抗样本既能使得神经网络出错也能够确保自动驾驶车辆发生安全事故。本发明还公开了一种实现上述对抗样本生成方法的系统。
