“白帽黑客”吴石：为什么要对特斯拉发动“攻击”？

文 | 徐可

“白帽黑客”吴石

2019年3月29日，腾讯科恩实验室（Keen Security Lab）在官方推特上公布了一篇关于特斯拉自动驾驶宁静毛病的文章链接，题目是《特斯拉Autopilot的实验性宁静研究》。几天之后，马斯克在这条推特下面点赞并留言：“Solid work by Keen, as usual”，彭博社等外洋媒体纷纷转载这条新闻，科恩实验室在汽车宁静领域声誉鹊起。现任腾讯科恩实验室卖力人吴石也是一位国际顶级的“白帽黑客”。

说起汽车宁静，就一定要说起另一位台甫鼎鼎的黑客查理·米勒（Charlie Miller）。

2015年查理·米勒和克里斯·瓦拉塞克（Chris Valasek）向人们展示了如何乐成远程控制一辆正在行驶的Jeep自由光。在侵入Uconnect车载系统之后，他们通过软件远程向该系统发送指令，启动汽车上的种种功效，包罗减速、关闭发念头、车辆制动或者使车辆制动失灵等，并在2016年的黑帽（Black Hat USA）大会上宣布了这次乐成的入侵。

这一测试震动了整个汽车界，迫使Jeep母公司召回了140万辆汽车，并对汽车的车载软件举行升级，修复毛病。但次年，查理·米勒和克里斯·瓦拉塞克再次入侵了2014款的Jeep切诺基，这次是通过入侵CAN总线，以物理毗连的方式侵入了汽车驾驶系统。这两次不行思议的入侵引起了人们对汽车宁静的重视。

查理·米勒和克里斯·瓦拉塞克（Chris Valasek）展示那次著名的入侵。

与米勒和瓦拉塞克差别，科恩实验室更多瞄准了视觉AI模型反抗研究，以及自动驾驶系统架构与网络宁静等方面更前沿的领域。以特斯拉Model S（软件版本2018.6.1）为工具，他们针对其搭载的自动驾驶系统举行宁静研究。其中一项是针对特斯拉Model S的自动雨刷。

特斯拉自动驾驶系统借助图像识别技术，通过识别外部天气状况实现自动雨刷功效。科恩实验室使用AI反抗样本生成技术，生成特定图像并举行滋扰时，使该系统输出了“错误”的识别效果，导致车辆雨刷启动。

另一项结果是针对特斯拉自动驾驶系统识别门路交通标志线的攻击。在路面部署滋扰信息后，可导致特斯拉Model S经由时对车道线做堕落误判断，致使车辆驶入逆行车道。第三项结果是使用已知毛病获取了特斯拉Model S的控制权，通过游戏手柄就可对车辆行驶偏向举行控制。正是这三项结果，引来了马斯克的点赞。

科恩实验室找到了特斯拉自动雨刷功效视觉神经网络的宁静毛病。

在加入腾讯之前，吴石曾经在微软事情多年，主要事情是为微软的产物寻找宁静毛病。原来一年的事情量，吴石只用了一个月就完成了。他甚至不需要去办公室坐班。于是，这位行业内著名的“白帽黑客”被奉为神一般的存在，是个圈内人尽皆知的被比尔·盖茨点赞的天才。

从外表看，戴着眼镜，爱穿格子衫的吴石显得有些大智若愚，他并不认为自己是什么“天才”。

吴石说：“在宁静研究这个行业，你能做得好，那肯定是说你有一些与众差别的特质。第一个肯定是你要追求极致，追求极致的意思就是你肯定不能遇到一点难题就掉头。”

吴石曾被《福布斯》杂志评为“全球发现毛病最多的人”，曾一连三年获得ZDI全球毛病盘算机挖掘白金孝敬奖，入选了Google宁静名人堂；同时也是全球顶级黑帽结果Pwnies奖第一个被提名的中国人。

他还率领科恩实验室在2013年至2017年，一连五年到场国际顶级黑客大赛Pwn2Own并获得十六个单项冠军，斩获三个Master of Pwn称呼，缔造了世界最好结果。

吴石坦言，和早年单打独斗、破解宁静毛病的神仙日子差别，他眼下最大的磨练，是如何把团队里智商过人且极具个性和韧性的黑客们治理好，捏合成一个善于互助战斗的团队。

科恩实验室使用已知毛病获取了特斯拉Model S的控制权，通过游戏手柄就可对车辆行驶偏向举行控制。

01

▶打造腾讯的宁静手刺，当好工业助手

除了科恩实验室的定位针对主流操作系统、互联网和移动互联网应用及物联网设备的宁静研究，腾讯还打造了由玄武实验室、湛泸实验室、云鼎实验室、反病毒实验室、反诈骗实验室、移动宁静实验室七大实验室组成的团结宁静实验室矩阵，是海内首个互联网宁静实验室矩阵，汇聚国际最顶尖的白帽黑客，专注宁静技术研究和宁静攻防体系搭建，宁静防范和保障规模涵盖毗连、系统、应用、信息、设备、云六大互联网关键领域。

据吴石先容，科恩实验室早期在腾讯内部，资助手机管家、微信、QQ浏览器等产物提高宁静性能，也高效地针对腾讯开发的种种安卓类手机应用举行宁静检测，资助构筑起了腾讯系产物的宁静护城河。

近年来，随着更多ICT新技术进入工业互联网，科恩实验室开始努力在人工智能算法和技术框架宁静、AI机械学习与融合以及5G、物联网等新维度上的前沿研究结构。

除此之外，科恩也将宁静能力以及富厚的渗透测试履历固化成宁静产物，进一步提升自动化扫描和审计宁静问题效率，例如面向攻击面的Android应用自动化检测系统ApkPecker、IoT固件宁静自动化检测系统IoTSec、Web宁静自动化扫描工具WebScanner、嵌入式系统自动化审计渗透测试工具sysAuditor等。

同时，科恩还在努力地对外输出宁静能力。

2017年1月至2018年2月，科恩实验室的研究专家针对差别宝马车型举行了全面测试，经由13个月的努力，研究团队将研究结果反馈给宝马团体，包罗14个差别的宁静问题。宝马团体汽车宁静团队第一时间举行内部核实，并联系科恩实验室确认了所有问题，同时启动相识决方案的开发事情。

2018年5月，宝马团体授予科恩实验室首个“宝马团体数字化及IT研发技术奖”，以表彰他们在促进汽车宁静领域所举行的良好研究。宝马团体认为，此项研究是迄今为止由第三方机构对宝马团体车辆举行的最全面、最庞大的测试，被认为是智能网联汽车宁静一大里程碑事件。

通过特斯拉、宝马两个案例，科恩实验室在汽车行业内里已经建设了很是高的知名度。车企通过科恩实验室的宁静检测，不仅消除了宁静隐患，更成为车型宁静性的背书。

“通过我们的能力，能够在汽车宁静这个行业里建设腾讯的品牌。由此，我们就能够占据一个入口，通过宁静这个入口，可以不停满足汽车企业其他的需要。”

以车联网为例，2019年开始，互联网、通信等科技企业开始大肆进入车联网领域。5月，腾讯在全球数字生态大会上公布了5G车路协同开源平台。随后阿里通过收购的方式介入智慧交通领域，而华为则以到场上海车展的方式，宣布进入V2X生态圈。

无论是车路协同还是单车智能，其应用越广泛，宁静的重要性也就越发突出。随着图像识别技术在汽车行业、尤其是在自动驾驶领域中的广泛应用，吴石和他向导的科恩实验室所做的事情重要性不言而喻。

“自动驾驶只是其中的一部门，我们最主要还是研究汽车这个工业产物自己的宁静性，现在来说我们和宝马、奥迪都有互助，资助它们提高车辆的宁静性。上汽、长安、北汽这些海内最主流的汽车厂商和我们也都有互助”，吴石说。

吴石这样总结在自动驾驶领域举行攻击演示的意义，“通已往做这样的一个攻击演示，让厂商和消费者也能够相识自动驾驶在宁静上还是很有问题的，需要被高度重视的。”

详细而言，自动驾驶领域接纳的是深度学习技术，自动给可能会泛起在真实场景中的物体图片做分类。可是，所识此外图片对应成真实场景中的物体，具有很高的难度。深度学习总结出的这些规则，也需要获得严格的验证。吴石认为，现在对自动驾驶系统做攻击相对来说比力容易。

科恩除了针对AI自己的宁静问题举行研究，也在使用AI手段来解决宁静问题。

随着物联网的普及，差别厂商、差别功效的硬件数量以数百万计。对于写入每个硬件中的固件，是无法一个一个做宁静检测的。而且这些产物往往不会有源码提供，只能通过逆向工程获取固件的信息，这个信息也是海量的。处置惩罚这类问题只能使用AI的方法，来识别其中是否存在宁静毛病。

“好比，科恩产物IoTSec 通过集成AI宁静能力来解决宁静问题。这个产物最主要的功效就是你给它一个固件，也就是一个二进制的软件，通过AI的算法匹配，会告诉你这个软件存在哪些问题。现在许多厂商都有兴趣采购这个产物。”吴石说。

除了详细车型的宁静测试，吴石和科恩实验室在车联网宁静尺度方面也开展了许多事情，也到场到一些国家相关尺度制定事情中。

“车联宁静主要关乎整个车载网络的吸收部门，包罗中控电脑中的控制系统，未来都需要依据宁静尺度，产物都要经由宁静测试才气上市，这会是一个常态。”

02

▶5G时代的宁静难题

5G提前两年开始在我国商用，它所带来的宁静问题，也是吴石和他的团队关注的领域。

“首先是5G的速度更快了。如果泛起宁静事故需要更快的响应，否则很可能在一个很是短的时间造成大规模的伸张。”

其次是5G在物联网、车联网场景中的应用。“5G的前端应用是手机，但后面会涉及整个物联网，包罗一些国家的基础设施。如果能通过远程的方式入侵，会对国家宁静造成很大的影响。然后就是自动驾驶车联网的宁静，也会造成人身伤害。”

吴石团队在5G宁静方面的研究结果，也已经开端开始对外赋能。好比，科恩实验室正在与OPPO互助，增强安卓系统、手机基带以及应用商店的宁静性。

谈到5G时代宁静领域的挑战，吴石首先提到的就是庞大的人才缺口。

吴石说，“今年行业的人才缺口或许是70万，明年缺口要到达100万。现在高校每年能提供的宁静专业的结业生仅5万左右。”

另一个问题则是人才断层。“你可以看到‘70后’在企业以致国家层面做宁静的屈指可数。‘80后’这一代就已经有了庞大的人才断层，因为其时宁静行业很是苦，压根儿不挣钱，大多数高校也就没有设立宁静专业。”

谈到宁静工程师的平均技术水平，吴石指出，相对美国、以色列、俄罗斯这些素来重视宁静的国家，海内整体水平依然偏低。“海内宁静领域炒得很热闹，看起来人也不少，可是这么多年下来能够行销全世界的宁静产物险些没有，被所有行业广泛接纳的宁静产物也乏善可陈。”

对标国际趋势，吴石说，未来中小企业通过上云就可以获得宁静能力。云的市场占有率也会越来越大，云宁静相对来说市场竞争力会越来越大，而独立的宁静软件厂商将很难存活。

除了需要国家越发重视造就宁静领域的人才，现有专业人才也要通过不停转型才气跟得上技术演进的程序。

吴石以自己为例，“以前我在微软是专注于 PC Windows 的宁静，来到腾讯之后转做安卓和IOS移动应用的宁静。现在还在做车联网、物联网宁静，其实我一直在转型。”

在采访的最后，吴石说，“入行最开始那10年，我通过自己的努力，让自己成为了一个世界一流的网络宁静研究员、信息宁静研究员。厥后我通过努力带出来一个世界一流的宁静团队，我以为这是让我最自满的事情。”