编者按：如何向消费者证明自家的汽车很安全，一直是一个困扰自动驾驶厂商的问题。作者认为，由于路况的多变和复杂性，利用机器学习所实现的自动驾驶在面对潜在风险时也会显得力不从心。本文出自 IEEE，作者 Andrew Sliver， 雷锋网编译，未经许可不得转载。

去年秋天，媒体正在加州帕洛阿托试驾带有自动驾驶系统的特斯拉 Model S

David Paul Morris/Bloomberg/Getty Images

汽车厂商很难证明自动驾驶汽车究竟有多安全，因为使它们智能化的核心是机器学习。

卡内基梅隆大学的计算机科学家、从事汽车制造业的 Phillip Koopman 说道：“你不能总是觉得自动驾驶这玩意儿一定可靠。”

早在 2014 年，一家市场研究公司称自动驾驶汽车市场将于 2030 年达到 870 亿美元的规模。而包括谷歌、特斯拉和 Uber 在内的许多公司均开展了自家的计算机辅助驾驶或全自动驾驶项目。这些公司或多或少都取得了一些进展，但仍有大量的技术难题等待攻克。

有部分研究人员认为因为机器学习的本质，要证明自动驾驶汽车可以安全上路是一项非常困难的挑战，而Koopman 对此也深信不疑。

一般而言，j2直播，工程师先按要求编写代码，然后运行测试检查代码是否满足要求。但使用机器学习，要让计算机掌控这一复杂的系统就不是这么简单的事儿了。

比如，处理同一天不同时间拍下的图像或在特定环境下分辨像人行横道、停车标识等重要的标识并不是写个代码就能解决的问题。Koopman 说：“机器学习的难点就在于，你根本无法界定代码要满足的要求是什么。”

多年前，工程师们就意识到传统软件是无法对相机图像进行分析处理的，直播，所以他们转而使用了机器学习算法。算法通过对样本的处理生成一个可以解决特定问题的数学模型。

工程师会提供许多带有注释的样本——告诉计算机什么是停车标识，什么不是。这些算法会把图像分像素块解析，提取当中特征像素块来建立运算模型。当计算机收到新图像时，它会将这些图像在这个模型中运算一遍，以分辨出包含有停车标识的图像。

Koopman 说：“这种归纳式学习有一定的潜在失效风险。如果你想深入看看这些机器到底在干什么的话，你只能看到一些统计数字。它就是个黑匣子，你根本不知道它到底在学些什么。”

更形象一点地说，设想你正在测试一台自动驾驶汽车，想看它会不会躲开行人。而周围有穿着橙色警示服的行人站着，此时你不对车辆采取控制。车辆也许会像程序里训练的那样辨认出行人的手、胳臂、脚甚至是橙色的衬衫，最后停止车辆。

或者再具体一点，假如你在夏天对自动驾驶车辆进行测试学习，而整个夏天都没有人戴过帽子，这时让车辆电脑看见一顶帽子，岂不是会让它惊慌失措？

“我们能用来训练算法的事件是有限的。”Koopman 如是说。

人工神经网络是一种常见的能模仿人类大脑间神经元联系的机器学习模型。而谷歌的研究人员曾尝试使用它来辨别哑铃。如果系统通过一系列图片了解了“哑铃”是什么，但如果接受训练的图片并没有哑铃单独存在的形象（都是健美先生举着它的样子），那么它就无从提取哑铃的基本要素，进而会产生错误的判断。

这里的另一个问题便是安全验证。Koopman 指出，如果使用近似数据对算法训练测试太多的话，它可能会记住某一次特定的测试，并返回那次测试的信息。

Koopman 称，如果Uber任意挑选一个城市投放其自动驾驶汽车，而当地没有详尽的高精度电子地图的话，那么这些自动驾驶汽车也就无法完全发挥功效。虽然有一个简单的解决办法——只在匹兹堡市中心（Uber已绘制过这里的地图）训练并投放自动驾驶汽车。但这样就大大限制了自动驾驶汽车的使用范围。

除此之外的又一大挑战是，当系统遇到诸如雨雾、扬尘等视线不佳天气状况时，算法的辨识能力是否会受到影响。

在 2013 年的一次研究中发现，改变图像中的某一像素块，肉眼是看不出任何变化的，但却能影响算法判断能力，令算法以为面前的校车只是一辆普通车辆。