参与：吴攀、蒋思源

在 2021 年之前，我们日常所用的软件将会具有很大程度上的智能和能力，并将会在越来越多的任务中取代人类。难道我们就要就此落后了吗？

尽管有一些人预测会出现大规模的失业和人类与人工智能之间的全面战争，但其他人并不认为未来有那么糟糕。卡内基梅隆大学机器学习系负责人 Manuela Veloso 教授设想了一个人类与人工智能密不可分的未来，它们将同心协力持续不断地交换信息和目标，她将其称之为「共生自主（symbiotic autonomy）」。在 Veloso 眼中的未来里，我们将难以将人类代理和自动化助理区分开——但不管是人还是软件，如果没有彼此，就不会有很大的用处。

Veloso 已经在 CMU 的校园里面测试这个想法了。他们打造了可移动的、赛格威一样的机器人 cobot。它们可以自动将客人从一栋建筑护送到另一栋建筑，而且当它们短缺时它们会请求人类的帮助。这是一种新的思考人工智能的方式，并且可能会在未来五年里带来深远的影响。

日前，The Verge 在匹兹堡对 Veloso 进行了一次专访，谈论了机器人、编程自发性（programming spontaneity）和人工智能给人类带来的挑战。下面是采访内容：

问：自动化是过去五年里的一个大趋势。我们也看到有更多的智能被构建到了我们已经在使用的工具中，比如手机和计算机。你对未来五年的发展怎么看？

答：在未来，我相信会出现人类与人工智能系统的共存，并有希望会造福于人类。这些人工智能系统将涉及到处理数字世界的软件系统，也将涉及到在物理空间中移动的系统，比如无人机、机器人和自动汽车，另外还会有处理物理空间的系统，比如物联网。

你也将在物理世界中有更多的智能系统——不只是你的手机和电脑，而是我们周围的各种物理存在，它们能处理和感知这个物理世界，并帮助我们进行涉及到大量物理世界的特征的决策。随着时间的推移，我们还将看到这些人工智能系统还将会对更广泛的社会问题产生影响：比如管理大城市的交通、做出关于气候的复杂预测、在人类进行重大决策时提供支持。

问：目前，我们可以看到有一些系统并不好。当一个算法或机器人进行一项决策时，我们并不总是知道它们为什么要这样决策，这让它们难以得到我们的信任。技术可以如何解决这个问题？

答：我正在研究的一件事是让这些机器能够解释它们自己——对它们做出的决定负责和透明。我们做的很多研究是让人类或用户询问该系统。当我的 Cobot 到我的办公室稍微迟到时，我可以说：「你为什么迟到了？」或「你选择了哪条路？」

所以我们正在研究这些人工智能系统在学习和提升时解释自己的能力，以便提供不同详细程度的解释。我们想通过与这些机器人交互从而让人类能够更加信任这些机器人。你就可以问：「你为什么要那样说？」或「你为什么推荐这个？」

提供那样的解释占到了我现在的研究的很大一部分，而且我相信能做到这一点的机器人能够为我们提供对于这些人工智能系统的更好的理解和信任。最终，通过这些交互，人类也将能够纠正这些人工智能系统。所以我们也在做尝试整合这些纠正的研究，让这些系统能够从指令中进行学习。我相信这会是我们与人工智能系统共存中的很大一部分。

问：你认为为什么这些系统现在会提升这么快呢？在过去 50 年的人工智能研究中，你觉得是什么在拖我们的后腿？

答：你必须理解，对于一个人工智能系统而言，要知道什么是手机、什么是杯子、一个人是否健康，它就需要知识（knowledge）。早期的人工智能研究实际上是获取知识。我们不得不求助于人类。要人类将信息收集起来并人工录入到计算机中。

神奇的是，在过去几年来，这些信息越来越数字化。看起来这个世界通过互联网显现了出来。所以现在人工智能就是关于可用的数据，以及处理这些数据和理解它的能力，我们仍然在寻找最好的做这些人物的方法。另一方面，我们很乐观，因为我们知道数据已经有了。

现在的问题变成了，我们如何从数据中学习？你怎么使用它？你怎么表征它？你怎么将这些碎片结合到一起？那就是你用深度学习和深度强化学习做自动翻译的系统和能玩足够的机器人的方式。所有这些系统之所以成为可能，是因为我们可以远远更加高效地处理所有这些数据。我们不再必须执行收集知识和表征知识这些大步骤了。就是这些。