参与：吴沁桐、赵华龙

Richard Sutton 在多伦多大学数学科学研究中心的机器学习应用进展系列研讨会上探讨了人工智能的未来方向。他认为人工智能的未来属于可扩展的方法、搜索与学习。而在人工智能未来的发展中，可扩展性是及其重要的方向。监督学习和计算能力的可扩展性并不大，真正重要的是在普通的经验知识世界中学习的能力，这个能力需要扩展。

摘要

当人类最终开始理解智能的原理并将这些原理赋予机器的时候，这会是我们这个时代，或者可以说是任何时代，最重要的发现。最近几年，随着深度学习及其相关领域的进步，这一巨大的进步几乎触手可及。它给人类所带来的后果、利益和危险已成为新闻界、各种公共政策会议以及科学会议上的热门话题，这是一种夸张和恐惧，还是隐藏在激动人心之下的真正科学进步？在这次讨论中，我将基于我 38 年的人工智能研究经验，给大家讲一些有用的但毫无疑问又带有偏颇的观点。我所讲的内容包括两个方面：1）将目前的发展视为人工智能最长久趋势的一部分——更廉价的计算，以及由此而来的将会扮演更重要角色的搜索、学习以及所有可扩展的事情，j2直播，2）基于预测以及强化学习，直播，勾勒出一条可能的人工智能之路。

介绍

在不远的将来，人工智能的可扩展性将会是极其重要的。鉴于摩尔定律奠定了我们目前计算能力发展的基础，根据该定律我们的计算资源每两年将翻一番。优秀的算法必须能够随着硬件的发展而扩展。尽管现在研究人员还不需要花费太多的时间关注人工智能的可扩展性，但在不远的将来，这一部分开销将呈现指数级的增长。人工智能的未来应当属于可扩展的搜索与学习。

要点总结

现在

最火最有名的人工智能应用有：AlphaGo、自动驾驶汽车、扑克、语音识别与计算机视觉。为什么它会在现在出现？是因为人工智能算法的巨大进步还是因为摩尔定律？

摩尔定律肯定在其中扮演了重要角色。摩尔定律告诉我们，能够放置在一块相同大小的集成电路上的晶体管的数量大约每两年会翻一番。在计算机硬件领域的长时间指数级增长至少为人工智能的发展贡献了一半的力量。硬件是算法发展的一个巨大激励因素。

1. 是解决还是不解决，所涉及的是人工智能的问题，但根源来源于人类自身。

a. 人工智能是不安全的且会威胁到人类本身，人工智能将会比人更聪明。

b. 人工智能的研究人员有时对这些担忧过于轻视。

Richard Sutton认为

a. 2040(40%), never(10%) 一个人类级别的人工智能将会是一项意义深远的科学成就，它可能会在 2030 年实现（25%），也可能在 2040 年实现（40%），也可能永远不会实现（10%）。

b. 人工智能会带来很多改变，我们应为此做好准备。

c. 对人工智能的恐惧被过于夸大了，且这种恐惧是无建设性的。有些恐惧人工智能的人甚至都不知道他们恐惧具体是什么。

i. 如果人工智能比我们聪明，它们将会脱离我们的控制。很有可能人工智能会是我们的继任者而不是奴隶。而坏的继任者源自于它们父辈的错误。

ii. 以摩尔定律的速度来看，人工智能的发展速度是缓慢的。

iii. 最大的风险来源于那些不当使用人工智能之人。

过去：从长期来看可扩展的方法总是赢家。

1. 三波神经网络的热潮

a.50-60 年代的感知机、Adaline：仅有一层可学习层。

b.80-90 年代的连接主义（Connectionism）、神经网络：通过反向传递的多层学习（SGD）。

c.2010 年起的深度学习：神经网络类的方法胜利了，因为它们的性能可以随着摩尔定律的发展大幅提高，而计算类（computational）的方法却做不到这一点。最优秀的算法本质上和 80 年代的算法是一样的，不同的是更快的计算机和更大的数据集。

2. 最好的解决方案来自于最好的算法和强有力的计算机。

a. 赢得象棋比赛：关键是巨大、高效、启发式的搜索。

b. 赢得围棋比赛：关键是巨大且基于样本的搜索。

c. 理解自然语言：关键是一些统计式的机器学习方法和大数据集。

d. 视觉识别物体：关键是大数据集、更多的参数和更长的训练时间。

3. 搜索和学习是可扩展的方法。

a. 一个可随着摩尔定律扩展的方法在某种程度上它的性能大致和给予它的计算量成比例。

b. 一个不能扩展的方法意味着它所带来的改进不太受可用计算能力的影响。

c. 可扩展的能力是关键，但是它往往也与其他一些问题有关。