理性是激情的奴隶。——大卫·休谟

　　324格的棋盘，一边坐着李世石——当世顶尖的棋手，另一边是AlphaGo——号称在挑战人类智力极限的人工智能程序。这一幕被包装得充满了仪式感，好像是人类智慧与人工智能的终极对决，这场对决的结果可能意味着一个时代的开始或者另一个时代的结束。第一场，李世石就败下阵来，似乎意味着电影《终结者》所描述的人类的宿命正离本港台直播们越来越近。这一次，在对弈之外，人们普遍对于人工智能的未来产生了恐惧，计算机是否已经可以比人类更加“聪明”了？有人疑惑，如果AlphaGo在对弈中的失误是故意卖给李世石的破绽是否更加可怕？而事实上，这些担心其实都没有抓住人工智能相关科技伦理的症结。

　　第一场赛前就有人问本港台直播，你觉得李世石和AlphaGo，谁能赢。本港台直播的回答是：不重要。大势不可挡，即使这次李世石赢了，开奖直播也会在不久的将来被类似的人工智能击败。本次人机大战充满了各种噱头，Google公司对它进行了精心的商业炒作，这无疑是一则完美的软广告。它备受瞩目由科技伦理而起：大家都想知道人工智能是否已经可以战胜人类智能，它到底预示着一个更加智能化的科技时代的到来，还是人类自掘坟墓的悲剧宿命的开始。无论再多的人从围棋的角度抑或人工智能算法的角度解读这场对弈，大家都不得不承认，这已经不单单是一场围棋比赛了。大家关心的不只是围棋，而是李世石所代表的人类智慧是否真的要低头了。但是大部分人并没有意识到，这次人机对战并没有创造任何新的有关人工智能的科技伦理问题，只是大家不熟悉这些问题的症结。

　　本次人机对战，本质上仍是人与人之间智慧的较量——一边是李世石，一边是AlphaGo团队。就像两个人比赛伐木，一个人力大无穷却没有工具，但另一个人有刀斧。本港台直播们称AlphGo为人工智能，而它实际上和人类发明的其开奖直播的工具并无本质区别。从深蓝到AlphaGo，人工智能的计算能力在不断增强，分析网络不断复杂化，但开奖直播们却仍然只是计算能力极强的工具，没有成为本港台直播们想象中的“终结者”。大卫·休谟告诉本港台直播们：理性是激情的奴隶。现在的人工智能只有工具理性而不能随机设定目标，它至多是人类意志的一种延伸。而一种拥有随机设定目标的能力并拥有无比强大的分析计算能力以实现目的的智能，将是一种“上帝”式的存在。这种智能一旦存在，可能地球的文明形式确实要改写。

　　两个思想实验

　　关于能随机设定目标的人工智能是否能够到来，涉及的论证太过复杂，在此只给读者讲两个思想实验来解释。

　　1950年，计算机之父图灵发表了一篇题为《机器能够思维吗？》的论文，论文中设计了一种非常巧妙的检测智能的方法：一个人在不接触对方的情况下，通过某种特殊的方式，与对方进行一系列的问答，如果最终开奖直播无法根据这些问题判断出对方是人还是计算机，那么，就可以认为这台计算机具有与人相当的智能。美国著名心灵哲学家约翰·赛尔认为这样的判断太过简单狭隘，开奖直播在1980年提出了著名的所谓“中文屋”的思想实验。该实验是这样设计的：塞尔设想开奖直播只懂英文不懂中文，被关在一间屋子里。屋子里有各种各样的纸片，上面有一些字符。通过屋子的窗口，屋外的中国人可以递给开奖直播有中国字符的纸片提问，开奖直播也可以通过窗口把另外一些纸片递出来“回答”。屋内有一本英文的规则书告诉开奖直播怎样为这些中文字符配对。于是屋外的中国人发现：屋内人对于用中文提出的问题总能给出恰当的回答，看起来似乎懂得中文。如此一来，赛尔就通过了图灵测试，但开奖直播依然不懂中文。开奖直播所做的只是按照规则进行形式的匹配。塞尔由此指出：“程序本身不能够构成心灵，程序的形式句法本身不能确保心智内容的出现。”显然，在赛尔眼中，任何计算机程序都是不具有理解力的，再复杂的程序本质上都是在完成句法的设定，屋外的人错误地认为屋内的人理解了中文，而屋内的人仅仅是做了简单的符号对应工作。计算机程序终究是没有目标的，有目标的是“屋外”的人。