终结者

这篇影评非写不可，因为它很有可能让我从此爱上科幻片。事实上，写这篇影评前我已经有很久没写过影评了，上一篇应该是金基德的«圣殇»,我在高二理科课上偷偷记在本子上的。用豆瓣后，也懒得把那些陈年文字打出来。 科幻片我也不是没看过，像什么«盗梦空间»,«星际穿越»,«人工智能»等等。但是像«终结者»这样像恐怖片一样把我吓个半死又像悲情片一样害我哭到吸鼻涕还是头一回遇到。 这部电影就是震撼本身，卡梅隆用有限成本发挥出了最大程度。无论是那个烧也不死炸也不死的红眼骨架子机器人还是影片里这段只有一天一夜却惊世骇俗的爱情。 最后那个红眼骨架子真的足够给人挥之不去的心理阴影，我看过«招魂»，«闪灵»，在我心里没有一个的惊悚形象能超过它，主要因为 ，，他怎么就是死不透呢？ ! 电影结局部分就是高潮了-----红眼骨架子是在这里烧成骨架子吓死人的，英俊勇猛坚韧痴情（等等）的男主角也是在这里和它同归于尽了。 我可是为他哭得好惨，有很久很多部电影以来我都没怎么哭出来过了。看到评论区很多人说凯尔是男二其实我认为不对的。他是绝对男主角。虽然片名是叫终结者，但终结者毕竟只是台恐怖的怪物。 这部电影如果没有凯尔和沙拉这条爱情线，会平庸很多的。 这部电影告诉我们还有种情侣叫凯尔和莎拉-----凯尔生活在四十年后的世界，他收藏着沙拉的照片，每天看着，这女人是他这辈子唯一爱过的女人。 莎拉是未来世界人类领导者约翰的母亲。机器人要灭绝人类，却始终过不了约翰一关，就打算要从根做起-----干脆在受孕前杀了他妈。狡猾 ! 凯尔自告奋勇回去四十年前保护莎拉，欲帮她逃脱最强机器人"终结者"的杀害。虽然这一趟的代价是无法再回去，结局也是难以预料的。 凯尔舍命一搏，只因他倾慕救世主那传奇性的母亲。他恐怕也想不到，自己会是救世主的父亲。哪怕他们的爱情只有短短的一天一夜，但是却像莎拉在影片最后说的一样-----we loved a lifetime. 凯尔与机器人同归于尽，莎拉活下来，怀着他的孩子约翰，要孤军奋战。 我当然就是看到了这里哭了出来的。 对于"凯尔是四十年后的人，与约翰是同龄，朋友，却最终穿越到四十年前，与约翰他妈有了约翰"这样的逻辑，丝毫没有观众觉得过别扭，反而倒是很让我印象深刻。这对情侣从认识到分别只有一天一夜，感情却深沉而真挚。也许是因为他们面对公共敌人，面对死亡的那份坚韧十分打动人。 看«终结者»之前，我看完了王家卫的«花样年华»。«花样年华»是以真实时代真实世界为背景的，却缺乏«终结者»的撼动力。看完以后平平淡淡，并没有什么情绪。而«终结者»架构虚幻，却十分打动人。 电影虽说要以真情实感为价值，但十分的真实似乎也就只能像真的生活那样，水一样流过，不着痕迹了。 当然了，王家卫拍的电影，取胜也的确从不是靠深入人心的剧情，而是靠高深的艺术手法。难免要曲高和寡。 像«终结者»这样的爱情，感情强烈，穿透生死，跨越时代，即使背景虚幻，却还是更能感染人心，更能让平民百姓买账吧？ 这部电影是1984年拍的，当时美国正处于信息技术改革时代，由于对信息化的反思与展望，美国电影人在这期间拍下许多类似于这部的有关人工智能的科幻电影。美国从未恐惧暴露其信息发展弊端，面对问题，没人避讳，是可以公众讨论的。 而当时的中国正忙着改革开放，信息化还未开始，要求能拍出这样的电影是过分了的。 那么中国电影人是不是就没有做出过展望与反思呢？-----有的。田壮壮的«蓝风筝»，娄烨的«颐和园»,陈冲的«天浴»等等优秀影片都对中国的历史，政治进行了反思与提问。但是很遗憾，由于我国不爱面对问题，这些优秀电影甚至导演都被禁了。中国电影政治筛选力度太大。这也很大程度是中国大陆电影进步缓慢的原因。 对于中国何时才能出现如此优秀的科幻片，我们可能还得展望一大段日子...... «终结者»着实令我大开眼界。科幻片也能这样拍。 Ps:影片中不乏对于美国警方的嘲讽

本文转自机器之心，原文选自arxiv，

作者：Toby Walsh University of New South Wales and Data61 （formerly NICTA），

编译：李九喻、孟婷、柒柒。

已经发明的技术和展望中的技术：

公元前1,500,000年 最早的石器 (环境限制的突破)

公元前300,000年 火 (环境限制的突破)

公元前70,000年 绘画 (环境限制的突破)

公元前45,000年 贸易系统 (环境限制的突破)

公元前40,000年 木船 (环境限制的突破)

公元前5000年 车轮 (环境限制的突破)

公元前3000年 楔形文字 (文化限制的突破)

公元前500年 指南针 (环境限制的突破)

公元前100年 造纸术 (文化限制的突破)

公元800年 火药 (环境限制的突破)

公元1100年 活字印刷 (文化限制的突破)

公元1400年 远洋帆船 (环境限制的突破)

公元1609年 望远镜 (环境限制的突破)

公元1644年 显微镜 (环境限制的突破)

公元1770年 蒸汽机 (环境限制的突破)

公元1826年 照相技术 (环境限制的突破)

公元1876年 电话 (环境限制的突破)

公元1880年 灯泡 (环境限制的突破)

公元1903年 飞机 (环境限制的突破)

公元1945年 原子弹，计算机 (环境限制的突破)

公元1950年代 性别激素/变性技术 (生物限制的突破)

公元1957年 人造卫星 (环境限制的突破)

公元1969年 最早的计算机网络 (环境限制的突破)

公元1980年 试管婴儿 (生物限制的突破)

公元1996年 生物复制技术 (生物限制的突破)

公元2007年 DNA端粒延长(寿命延长技术) (生物限制的突破)

----------------------------------------

（猜想）

公元2029年 超越人类智能的机器

公元2045年 纳米技术的普及 (生物在化学物质基础限制的突破)

公元2070年 仿生物技术的大规模普及 (生物在化学物质基础限制的突破)

公元2080年 意识上传 (意识突破肉体限制)

狭义技术奇点 (生物在化学物质基础限制的突破)

21世纪以后 突破物理定理的限制 (突破引力，光速) (物理限制的突破)

21世纪以后 能量表达方式突破3维空间的限制 (数学限制的突破)

21世纪以后 突破时间的限制，观察到过去，现在，和未来，在未来的那个时刻创造我们现在生活的世界 广义技术奇点 (因果逻辑限制的突破)

如今，对人 (AI) 感到悲观或乐观的都大有人在。乐观者正在向人工智能领域投资数百万美元甚至数十亿美元，而悲观者则预测人工智能将终结很多事：工作，战争，甚至人类。无论是乐观主义者还是悲观主义者都被所谓技术奇点 (technological ingularity) 的概念吸引。技术奇点是一个机器智能失控的时间点，在它之后一个全新的、更加智慧的「物种」将开始居住在地球上。如果乐观主义者是正确的，那么这将是一个从根本上改变人经济和社会的时刻。如果悲观主义者是正确的，那么这将同样是一个从根本上改变人类经济和社会的时刻。因此，我们有必要花些时间决定这些看法是否正确。

奇点的历史

技术奇点的概念可以追溯到几个不同的思想家。在约翰·冯·诺伊曼 (译者注: John von Neumann， 20世纪最重要的数学家之一，在现代计算机、博弈论等领域均有建树) 1957年去世时，斯塔尼斯拉夫·乌拉姆 (译者注: Stanislaw Ulam - 波兰数学家) 写道：

「我与约翰·冯·诺伊曼讨论过在技术不断加速发展、人类生活模式的改变下，我们看上去正在接近物种史上某个重要的奇点，在它之后已知的生活将无法延续。」 在1965年，I.J. 古德 (译者注: I.J. Good，英裔数学家、密码学家) 对这个现象提出了更具体的预测，他用「智能爆炸」(Intelligence Explosion) 取代了「奇点」 (Singularity) 的概念：「让我们把超智能机器定义成为一台能够远远超过任何人类智力活动的机器。 因为设计机器本身也算是智力活动，所以超智能机器可以设计出更好的机器；毫无疑问，这将会带来智力的爆炸式增长，而人类的智力将远远落后。以此类推，超智能机器将会是人类最后一个发明。」 许多人把 「技术奇点」归功于计算机科学家。科幻小说家弗诺·文奇 (Vernor Vinge) 更是预言：「在三十年内，我们将创造出实现超人智慧的技术。不久后，人类的时代将结束。」

近来，技术奇点的概念又得到了包括雷·库兹韦尔 (译者注: Ray Kurzweil ，发明家、企业家、学者、《奇点临近》等畅销书作者) 在内许多人的推广。根据目前的趋势，库兹韦尔预计技术奇点会发生在2045年左右。就这篇文章的定义而言，我假设技术奇点是一个「当我们创造出拥有足够智慧、能通过重新设计自己来改进智力的机器」的时间点，并且在这个点上我们将见证智力以指数级增长，并且迅速超越人类。

我将用两个数学论证来为以上观点辩护。其中一个论证是：技术奇点不是数学奇点。在函数1/(1-t)中，数学奇点是t=1。该函数演示了双曲增长。当t接近1，t的导数趋于正无穷并且无法被定义。然而，许多技术奇点的拥趸只支持指数增长的说法。例如，函数2^t呈指数增长。这样的指数函数在接近正无穷时更慢，并且有一个可以被定义的有限导数。其二个论证是：智力的指数增长完全取决于测量智力的数值范围。如果我们以对数分度向量（logspace）测量智力，指数增长仅仅是线性的。在这里，我暂时不解释测量机器或者人类智力的具体定义或方法。我只假设有一个可以被测量、比较的特质叫做智力，并且当智力在适当、合理的数值范围内呈指数增长时，我们将迎来技术奇点。目前，技术奇点的可能性已经迫使几名评论家发出关于人工智能对人类影响的悲观预言。例如，在2014年12月时，史蒂芬霍金对BBC电视台说：

「人工智能的全面发展可能意味着人类的终结……机器将获得自主权，并且以前所未有的速度重新设计自己。被缓慢生物进化限制的人类将无法竞争并且最终被取代。」

其他的知名人物，包括比尔·盖茨，伊隆·马斯克和史蒂夫·沃兹尼亚克也随后发表了类似的警告。尼克·博斯特罗姆 (译者注: Nick Bostrom ，牛津大学人类未来研究院院长、哲学教授、著名人工智能学者) 也做出了对技术奇点的预言，并且认为这个现象将对人类的生存造成威胁。然而这篇文章与以上的观点相反，我将探讨的观点是：技术奇点或许永远不会临近。

反对技术奇点的论点

对技术奇点的争论多数发生在主流人工智能行业以外。在某种程度上，这个概念的许多拥趸都不是真正的从业者。在主流文化中，技术奇点也和一些例如寿命延长和后人类主义等挑战现状的想法关系密切。这种联系干涉我们探讨真正重要的基础问题：人类真的可以开发出能够成倍提高自己智力并且远远超出人类的机器吗？虽然它看上去并不是一个特别大胆的想法。计算机领域已经在指数增长的同时不断壮大。摩尔定律 (Moore’s Law) 以合理的精准预测告诉我们，晶体管上集成电路的数量（指每块芯片的储存量）将在1975年之后每两年内翻倍。库梅定律 (Koomey’s Law) 也已预测，单个能量焦耳所支持的计算次数将在1950年后的每19个月内翻倍。以此类推，为什么不能假设人工智能也会在某个时间段内实现指数增长呢？

针对技术奇点实现的可能性，以上的说法是一些有力的论据。准确地说，我并不是在预估人工智能无法拥有超出人类的智能。与许多在人工智能行业工作的同事一样，我预测人类离这个阶段还有30到40年的时间。不过与一些人的观点相反，我认为未来将不会出现失控、呈指数增长的情形。我将在接下来的文章里提供多个关于不可能有技术奇点出现的支持论点。

以下的讨论不包括所有技术奇点的反对论点。举例来说，我们也可以假设人工智能创造出了自己的人工智能。因此，阿兰·图灵 (Alan Turing) 在其影响深远的Mind论文（ Turing 1963）中提出了针对人工智能的九种通俗反对意见，例如机器不能拥有意识，或者不具有创造性。在这里，我将集中精力讨论人工智能在智力上失控增长的可能性。

论点一：快速思维的狗（Fast Thinking Dog）

其中一个由技术奇点支持者提出的先锋观点是：硅与人类大脑湿件(wetware)相比有重要的速度优势，并且根据摩尔定律这一优势每隔两年都会翻倍。不过，速度提高不代表智力增长。在这个问题上，弗诺·文奇认为一条快速思维的狗仍然不可能懂得下棋。史蒂芬·平克 (Steven Pinker) 意味深长地表示：

「我们没有任何理由相信技术奇点会到来。人可以在自己脑海中想象未来，但不能证明它是否具有实现的可能性。在我的孩童时代，人们想象过的半球形城市，喷气交通运输工具，水下城市，一英里高的建筑，核动力汽车，以及很多未来式的幻想在今天从来没有得以实现。最终，单纯的运算处理能力无法像魔法一样奇迹般地解决所有问题。」

智力不仅是比别人对一个问题思考更快或是更久。当然，摩尔定律肯定对人工智能的发展有帮助。我们现在用更大的数据集学习。也学习地更快。速度更快的计算机肯定会帮助我们开发更好的人工智能。但是，至少对于人类来说，对智力的评估取决于许多其他的事情，其中包括日经月久的经验和训练。不能在机器计算中仅靠增加时钟频率（即计算速度）抄近道。

论点二：人类中心主义（Anthropocentric）

在许多对技术奇点的描述中，人类智力被假设成为一个需要跨越或颠覆的临界点。例如，尼克·博斯伦特写道：

「拥有人类智力水平的人工智能的问世将会迅速带来通向高于人类水平人工智能的发展……与此同时，机器与人类在智力上的匹配将是暂时的。此后不久，人类将无法与人工智力竞争。」

人类智力范围是从蟑螂到老鼠再到人类的分布广泛的范围。事实上，与其说智力是一个点，不如说它是一系列概率的分布。我们并不确定人类将在具体哪一个点上被人工智能失控的智力增长超越：这个点具体是指人类的平均智力？还是人类史上最聪明的人？

科学史的教训告诉我们，人类远没有自己想象的那么特殊。哥白尼告诉我们，宇宙并不绕地球转。达尔文告诉我们，我们与猿类没有本质区别。人工智能可能会告诉我们，人类的智力也并不特别。我们没有理由因此假定，人类智力是个一旦通过，智力将快速增长的特殊临界点。当然，这并不排除智力转捩点本身存在的可能性。

技术奇点的支持者提供的说法之一是，我们是唯一能够通过创造来拓展自己智力的物种，因此人类智力是一个特殊的临界点。我们是地球上唯一拥有足够智力设计新智能的物种，并且这些被设计出来的新智能不受进程缓慢的繁衍与进化限制。然而，这一类说法假定人类的智力可以设计出一个智力足以跨越技术奇点的人工智能。换句话说，它在我们决定是否有技术奇点之前，就已经下定它确切存在的结论。人类可能，也同样可能不会有足够的智力设计出这样的人工智能。我们并不是被注定要创造出这样的东西。再者说，即使我们有足够的智力设计出了能够超越人类的人工智能，这样的人工智能也不一定能够带来技术奇点。

论点三：元智力（Meta-Intelligence）

在我看来，反对技术奇点的其中一个强有力论点是，技术奇点混淆了完成工作的智力和提高完成工作的能力之间的区别。在对技术奇点的概念进行详细分析后，大卫·查莫斯 (译者注： David Chalmers，澳大利亚裔哲学家，认知科学家 )写道：

「如果我们通过机器学习创造一个AI，不久之后我们将能够改善学习的算法并且延长学习的过程，创造出接下来的AI+。」

在以上的论述中，AI是人类智力水平的系统，而AI+是比一般人类更聪明的系统。不过，为什么查莫斯认为我们可以在不久之后提高学习的算法？历来机器学习在算法方面的进展既不迅速，也不容易。机器学习的确有可能成为未来任何人类智力级别的人工智能系统的重要部分，因为除此之外，利用人工编码知识和专长是很痛苦的过程。假设，一个人工智能系统选择采用机器学习来提高自己理解文本，完成数学证明的能力。该人工智能的系统没有理由能够改善机器学习本身自带的算法。事实上，机器学习的算法通常在某一项工作上已经达到极限，不论是工程还是参数的调整，都无法提高其性能。

目前，我们看到使用深度学习的人工智能令人印象深刻的进度。这极大地提高了语音识别，计算机视觉，自然语言处理及许多其他领域的发展。这些进度通常归功于使用更多数据以及更深层次的神经网络：

Yann LeCun表示: 「在此之前，神经网络并没有打破识别连续语音的记录；因为它们的大小有限。」

当然，更多的数据和更大的神经网络意味着我们需要更强的机器处理能力。其结果是，GPU现在经常被用来提供处理能力。然而，学会更好地识别语音或者物品并没有帮助深度学习进步。深度学习并没有自我改善。对深度学习在算法上的任何改善都要归功于人类在设计上的不懈努力。

我们也可以从另一方面用我们所了解到的有关智能系统的最好例子来例证这一论点。看看我们自己。我们只使用了我们自己大脑惊人能力中的一小部分，而且我们正努力地想要改变现状。对我们来说，学习如何更好地完成某个特定任务很简单，但学习如何更高效地学习还需要下点功夫。举例来说，如果我们除去对智商固有的正常定义，我们可以察觉到智商在上个世纪内有增长，但增长速度缓慢 （弗林效应「Flynn Effect」）。在今天，提高智商的过程和一个世纪以前一样痛苦并且缓慢。或许，电子大脑也很难快速提高自己的性能，并且永远无法超越自身的基本功能？

论点四：收益递减 （Diminishing Return）

技术奇点通常假设智力的改进是一个相对恒定的乘数，每一代的分数都比上一代更高。然而到目前为止，大部分人工智能系统的性能一直在经历收益递减。在不同研究的初期，研究人员通常获得许多成果，但在这之后则遇到一系列难以改进的困难。这个过程解释了许多早期人工智能的研究人员对行业发展过于乐观的看法。人工智能系统也许可以无限制地完善自己，但对智力的总体改进很可能存在上限。举例来说，如果每一代人工智能比上一代增强半倍，那么系统永远不会达到2倍的整体智力。

收益递减不仅是由于改进人工智能算法的困难度，也是由于计算机科学快速增长的困难度。微软的联合创始人保罗·艾伦称这一现象为 「复杂性刹车」(Complexity Brake)。

「我们把这个问题叫做复杂性刹车。伴随人类对自然系统理解的不断加深，我们通常会发现，我们需要更多并且更专业的知识来描述它们，我们不得不用越来越复杂的方式来持续扩展我们的科学理论… 我们相信，对自然世界 [认知上的] 理解正在被复杂性刹车放慢。」——Allen和Greaves，2011。

即使人类看到人工智能系统持续、甚至呈指数级的改进，这些或许都无法提高机器的性能。智力提升所需要解决的问题本身的难度增长速度，甚至比智力提升的速度还要快。很多人表示，现阶段理论物理学的探索似乎也遇到了同样的复杂性刹车。

论点五：智慧的极限 （Limits of Intelligence）

宇宙中存在很多基本的限制。其中一些是物理限制。例如，我们无法加速超过光速。我们无法同时知道位置和动量的精确数值。我们无法知道原子放射性衰变具体发生的时间。我们创造出来的思维机器也受这些物理定律的限制。当然，如果机器在本质上是电子或者甚至是量子，这些限制很可能比人类大脑生物和化学的限制还要大得多。

更多可观察的经验法则也在复杂的系统中不断涌现。例如，邓巴数（Dunbar’s Number）是灵长类动物脑容量和社会平均大小之间所观察到的联系数值。该数值把人类社会团体中关系稳定的人数限制在100到250人之间。智力是一个复杂的现象，并且也会有类似的限制出现在这种复杂度中。机器智力的改善，无论是失控还是缓慢地增长，都可能碰触到这种限制。当然，我们没有理由假设人类智力目前已经达到、或者接近这个上限。同样来说，我们也没有理由认为这个上限远远超过了人类的智力。

论点六：计算复杂性（Computational Complexity）

假设我们坚持使用遵守传统计算模型的电脑开发人工智能系统。那么，指数级增长也无法与计算的复杂度匹敌。举例来说，计算机性能上的指数级增长不足以运行超级指数算法。而且没有任何性能上的增长可以解决无法解决的问题。计算的复杂性也许正是我们前面所讨论到的基本限制之一。因此，除非我们使用的机器能够超越传统的计算模型，否则我们很可能会碰到类似于计算的复杂性从根本上限制了计算机性能的问题。当然，很多计算的复杂度问题只是最坏的情况，大部分的人工智能都使用启发式学习在实践中解决计算上难以处理的问题。不过，这些启发式学习在质量上有根本的限制。有一些级别的问题即使超人工智能 (super-human intelligence) 也不能很好的解决，哪怕只是大致解决。

结论

在以上的文章中，我论述了关于人类也许永远无法见证技术奇点的许多原因。然而，即使没有技术奇点，我们也许仍然可以最终拥有展现出超人智力水平的机器。我们可能不得不自己费力编写这个超能力。如果是这样的话，人工智能对经济和社会的影响，要比对技术奇点持有悲观或乐观态度的人所预测的结果平淡得多。然而，我们应该就人工智能对社会的影响开始做准备。就算没有技术奇点，人工智能依旧会大面积影响工作的性质。举第二个例子：即使智力有限的人工智能依然可以对战争的性质产生很大的影响。现在，我们需要开始为这样的未来做计划。

参考文献：

[Allen and Greaves 2011] Allen, P., and Greaves, M. 2011. The singularity isn’t near. MIT Technology Review 7–65.

[Bostrom 2002] Bostrom, N. 2002. When machines outsmart humans. Futures 35(7):759–764.

[Bostrom 2014] Bostrom, N. 2014. Superintelligence: Paths, Dangers, Strategies. Oxford, UK: Oxford Uniiversity Press.

[Chalmers 2010] Chalmers, D. 2010. The singularity: A philosophical analysis. Journal of Consciousness Studies 17(9-10):7–65.

[Edwards 2015] Edwards, C. 2015. Growing pains for deep learning. Commun. ACM 58(7):14–16.

[Good 1965] Good, I. 1965. Speculations concerning the first ultraintelligent machine. Advances in Computers 6:31– 88.

[Kurzweil 2006] Kurzweil, R. 2006. The Singularity Is Near: When Humans Transcend Biology. Penguin (NonClassics).

[Pinker 2008] Pinker, S. 2008. Tech luminaries address singularity. IEEE Spectrum.

[Turing 1963] Turing, A. 1963. Computing machinery and intelligence. In Computers and Thought. McGraw-Hill Book Company.

[Ulam 1958] Ulam, S. 1958. Tribute to John von Neumann. Bulletin of the American Mathematical Society 64(3).

[Vinge 1993] Vinge, V. 1993. The coming technological singularity: How to survive in the post-human era. In Rheingold, H., ed., Whole Earth Review.