腾讯安全科恩实验室最新自动驾驶研究成果入选国际顶会USENIX Security 2021

时间:2021-08-13 14:16:32       来源:财讯网
       安全领域四大顶会之一USENIX Security 2021日正式举办。腾讯安全科恩实验室最新自动驾驶安全研究成果相关论文:《Too Good to Be Safe: Tricking Lane Detection in Autonomous Driving with Crafted Perturbations》在会议上发布。

USENIX Security始于上世纪90年代初,是信息安全领域四大顶级学术会议之一,研究领域涵盖二进制安全、固件安全、取证分析、Web安全、隐私保护、恶意分析等。USENIX Security同时被中国计算机学会(CCF)认定为网络安全A类国际学术会议,多年来的论文接受率均低于20%。

该研究由科恩实验室和香港理工大学罗夏朴教授团队及宾州州立大学王挺教授联合完成,基于黑盒测试和优化算法,在科恩实验室2019年发布的车道线系统攻击(即在路面部署干扰信息,导致车辆经过时对车道线做出错误判断,致使车辆驶入反向车道)方法基础上,设计了一套针对车道线系统的自动化攻击方法。

研究团队基于对抗样本的思路,旨在找到人眼不易发现漏洞、并且可以欺骗系统的扰动。基于黑盒测试和优化算法在数字图像层面找到最佳扰动,并将该扰动布置到物理世界。在实验中,处于自动驾驶状态的车辆成功被引入逆向车道。

攻击场景:在十字路口引导自动驾驶车辆驶入逆向车道

自2018年起,腾讯安全科恩实验室积极布局人工智能安全研究,并在"安全+AI"交叉领域结合应用场景研究探索。基于对抗样本生成、二进制分析等问题的研究,先后在多个顶级期刊与会议上发表了自动驾驶的实验安全研究、基于图神经网络的二进制代码分析、基于跨模态检索的二进制-源代码匹配等论文。2019年12月,科恩利用图神经网络解决二进制程序函数相似分析问题的论文,被人工智能顶级学术会议AAAI-20会议收录;2020年11月,科恩提出基于AI的二进制代码/源代码端到端匹配算法,入选人工智能顶级学术会议NeurIPS 2020。

在AI安全研究与能力建设领域,科恩实验室始终秉持开放合作的态度,通过各类研究合作项目与广大研究学者进行深入学交流,并积极与香港科技大学、香港理工大学、中科院信息工程研究所等权威机构开展合作科研。未来,科恩实验室也将对外开放更多技术能力,并持续将前沿领域的探索成果应用在安全领域当中。

论文链接: https://keenlab.tencent.com/zh/whitepapers/Tricking-Lane-Detection-pre-publication.pdf

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。

关键词: