IT资讯
当前位置:还学网 > IT资讯 >  IT动态

激光雷达、摄像头加持也没辙,3D 打印就能恶意攻击 L4 自动驾驶汽车

2021-09-03 20:32:48 雷锋网 我在思考中 编辑:奇奇 浏览数:5还学网

这年头自动驾驶还安全吗?想必大家懂得都懂......那难道目前业界就没有一个很好的安全防范措施吗?或许是有的,比如目前 L4 自动驾驶里用的最广泛的用来提高系统鲁棒性(健壮性)的多传感器融合感知(Multi-S...

这年头自动驾驶还安全吗?

想必大家懂得都懂......

那难道目前业界就没有一个很好的安全防范措施吗?

或许是有的,比如目前 L4 自动驾驶里用的最广泛的用来提高系统鲁棒性(健壮性)的多传感器融合感知(Multi-Sensor Fusion based Perception)技术,即融合不同的感知源,比如激光雷达(LiDAR)和摄像头(camera),从而实现准确并且鲁棒的感知。

然而最近来自加州大学尔湾分校(UC Irvine)的一个专攻自动驾驶和智能交通的安全研究团队,在实验研究了「工业级 L4 自动驾驶系统里的感知模块的安全」之后,发现,多传感器融合感知技术存在一个安全漏洞,使得攻击者可以 3D 打印出一个恶意的 3D 障碍物

▲ 3D 打印出来的恶意障碍物

只需把 3D 障碍物放在道路中间,就能让自动驾驶车辆的 Camera 和 LiDAR 机器学习检测模型都识别不到,从而从根本上绕过多传感器融合感知模块让其识别不到这个障碍物并且撞上去,造成严重交通危害。

这项研究工作在今年已经正式发表在 IEEE S&P 2021(计算机安全四大顶会之一)。

论文链接:https://arxiv.org/abs/2106.09249

在自动驾驶系统里,实时「感知」周围物体,是所有重要驾驶决策的最基本前提。感知模块负责实时检测路上的障碍物,比如:周围车辆,行人,交通锥 (雪糕筒)等等,从而避免发生一些交通事故。

因为感知模块对无人车安全的重要性,商业高级别(L4)无人车系统普遍采用多传感器融合的设计,即融合不同的感知源,比如 激光雷达(LiDAR)和摄像头(camera),从而实现准确并且鲁棒的感知。

在这样的设计中,根据「并非所有感知源都同时被攻击(或可以被攻击)」这一假设,总是存在一种可能的多传感器融合算法,可以依靠未被攻击的源来检测或防止单感知源攻击。这个基本的安全设计假设在一般情况下是成立的,因此多传感器融合通常被认为是针对现有无人车感知攻击(单感知源攻击)的有效防御策略。

然而研究者发现,在识别现实世界中,这种多传感器融合的障碍物感知存在漏洞。通过这个漏洞,研究者可以同时攻击不同的感知源,或者攻击单个感知源(只有 LiDAR 或者 camera 的检测),使得无人车无法成功检测前面的障碍物并直接撞上去。

在这项工作中,研究者首次对当今无人车系统中基于多传感器融合的感知进行了安全分析。研究者直接挑战了上述基本的安全设计假设,证明了「同时攻击自动驾驶多传感器融合感知中所有感知源」的可能性。

这使研究者第一次具体了解到使用多传感器融合作为无人车感知的一般防御策略能提供多少安全保障!

具体来说,研究者发现恶意 3D 障碍物可以被用作针对基于多传感器融合的无人车感知的攻击载体,同时具有隐蔽和物理上可实现的特点。研究者的关键发现是,3D 障碍物的不同形状可以同时导致 LiDAR 点云中的点位置变化和 camera 图像中的像素值变化。

因此,攻击者可以利用形状操作,同时向 camera 和 LiDAR 引入输入扰动。

这样的攻击载体还有另外两个优点:

它很容易在物理世界中实现和部署。例如,攻击者可以利用 3D 建模构建这类障碍物,并进行 3D 打印。目前市面上有很多在线 3D 打印服务,攻击者甚至不需要拥有 3D 打印设备。

它可以通过模仿能合法出现在道路上的正常交通障碍物,如交通锥或障碍物(如石头),并伪装为比较常见的磨损或破损的外观,实现高度隐蔽性。

▲ 生活中比较常见的磨损或形状破损的交通物体和看起来比较奇怪的石头

为了使其既容易部署又能造成严重的碰撞,攻击者可以选择较小的障碍物,如岩石或交通锥,但用花岗岩甚至金属填充,使其更硬更重。例如,一块 0.5 立方米的石头或一个 1 米高的交通锥,里面填充一些铝,很容易超过 100 公斤,如果汽车在高速行驶时撞到,有底盘损坏、撞碎挡风玻璃甚至失去控制的风险。

另外,攻击者还可以利用某些道路障碍物的功能(如交通锥作为标识的功能)。例如,攻击者可以设计一种仅针对无人车的攻击,将钉子或玻璃碎片放在生成的恶意交通锥障碍物后面,这样,人类驾驶员能够正常识别交通锥并绕行,而无人车则会忽视交通锥然后爆胎。在这里,安全损害并不是需要由碰撞交通锥体本身造成的,因此在这种情况下,恶意的交通锥体可以像普通交通锥体一样小而轻,以使其更容易 3D 打印、携带和部署。

为了评估这一漏洞的严重性,研究者设计了 MSF-ADV 攻击,它可以在给定的基于多传感器融合的无人车感知算法中自动生成上述的恶意的 3D 障碍,研究者提出创新性的设计提升攻击的有效性、鲁棒性、隐蔽性和现实生活中的可实现性。

分享到:

版权与免责声明:

凡未注明"稿件来源"的内容均为转载稿,本网转载出于传递更多信息的目的;如转载稿涉及版权问题,请作者联系我们,同时对于用户评论等信息,本网并不意味着赞同其观点或证实其内容的真实性;


本文地址://www.casaischia.com/news/2021/09/03/568277589.html

转载本站原创文章请注明来源:还学网

行业聚焦

丰田:将在未来五年内推出全新 Arene 车机操作系统,媲美 Windows、iOS

IT之家 8 月 26 日消息 丰田近日宣布,将在未来五年内推出全新的 Arene 车机操作系统。据悉,该系统由丰田的子公司 Woven Planet...[详细]

欧菲光:产品应用将从现有的消费电子延伸到智能家居/穿戴等领域

9 月 10 日消息 9 月 9 日,欧菲光在与投资者互动时表示,秉承自主创新理念,公司将集中优势资源持续加强高端镜头、玻塑混合、超薄镜头、广角镜头、...[详细]

微软 Edge v94 版浏览器更新预览:标签睡眠可设置为 30 秒

IT之家 8 月 22 日消息 微软 Edge 浏览器最新的正式版为 v92 版本,但是在 Dev 通道中,浏览器已经来到了 v94 版本,带来了一些...[详细]

台积电看好氮化镓未来商机,关注五大应用场景

9 月 7 日,SEMICON 中国台湾地区在线论坛台积电研发资深处长段孝勤在会上发言,他指出台积电在化合物半导体领域专注在氮化镓(GaN)相关开发,历经长期的...[详细]

我国 5G + 医疗健康应用试点项目名单公布

IT之家 8 月 18 日消息 据工信部官网公告,根据《工业和信息化部办公厅 国家卫生健康委员会办公厅关于组织开展 5G + 医疗健康应用试点项目申报...[详细]

活动互动

更多

消息称realme 8S将于9月9日海外发布 首发联发科天玑810 SoC

 

近日,realme印度地区总裁Madhav Sheth在推特发布一张预热海报,宣布realme 8S定于当地时间9月9日...[详细]

微软 Win11 安卓子系统模拟器跑分曝光:性能良好,8 核高通芯片 + 4GB/6GB 内存,类似三星 S20 水平

 

IT之家 9 月 11 日消息 近期,Windows 11 的微软商店中出现了 Windows Subsystem fo...[详细]

遭亚马逊大规模封店,跨境电商企业如何自救?

 

 项目招商找A5 快速获取精准代理名单 近期,业内人士聊及跨境电商,绕不开的话题一定是亚马逊电商的“封店潮&...[详细]

小米笔记本 Pro 14/15 增强版明日开售:搭载 11 代酷睿 H35,5299 元起

 

IT之家 8 月 24 日消息 小米笔记本 Pro 14 增强版与小米笔记本 Pro 15 增强版将于明日开售...[详细]

网易有道发布第二季度财报:净收入12.93亿元,同比增长107.5%

 

网易有道昨日发布了第二季度未经审计财报,财报显示,网易有道净收入12.93亿元,同比增长107.5%。截至2021年6月...[详细]

一周排行每月关注