我们在害怕什么

　　我曾在我的家乡奥斯汀举办的西南偏南大会（SXSW) 上发表过关于人工智能的演讲。不久之后，就有抗议者举着“不要机器人”和“人类才是未来”的标牌大喊“拒绝机器人”。那一年是 2015 年，相似的场景还出现在 1980 年、1967 年、1950 年甚至更早的 19 世纪。历史上，技术进步既让我们感到欣喜，又让我们对未来机器在人类文化中所扮演的角色感到深深的担忧。

　　历史上，每一项具有时代意义的技术进步在带来机器自动化的同时，都会引起我们情绪上的大起大落。两个多世纪前，蒸汽机的发明使社会陷入了混乱，文化评论家、预言家和企业纷纷试图解析“机器问题”。与英国青年一代运动相关的作家与劳动者站在了一起，他们将手工制作上升到爱国情怀的高度。蒸汽机和动力织布机等机器成了泯灭人性的象征，甚至威胁着国民品格。

　　算盘、锤子和锄头用得真顺手，朴实的人们依靠辛勤的汗水生活。

　　在英国脱欧的背景下，这首《欢乐的老英格兰》显得格外合拍。反对技术创新者会让我们不可避免地怀念和憧憬简单的生活。正是在工业革命这场巨大变革的中期，玛丽 ? 雪莱（Mary Shelley) 在 1818 年出版了她的经典恐怖小说《弗兰肯斯坦》（Frankenstein)。这本小说通过第一位现代科学家维克多 ? 弗兰肯斯坦（Victor Frankenstein) 的视角探讨了在技术不断进步的社会中产生的非人道力量。

　　玛丽 ? 雪莱写那本小说时只有 18 岁。1815年的夏天是有气象记录以来最冷、最沉闷的一个夏季，一座位于印度尼西亚的大火山爆发，喷出了大量的火山灰。这些火山灰在第二年来到了北半球，而玛丽 ? 雪莱当时被困在瑞士的一栋高级别墅中，有一群志同道合的朋友做伴，包括拜伦勋爵、她的继妹克莱尔 ? 克莱尔蒙特（Claire Clairmont) 以及她的爱人珀西 ? 雪莱（Percy Shelley)。在度过了无数个雷雨交加的夜晚之后，拜伦勋爵建议大家一起写鬼故事。玛丽 ? 雪莱刚刚离开她父亲家不久，而她的父亲是著名的进步主义思想家威廉 ? 戈德温（William Godwin)。她看过当时伟大科学家的作品，吸收了解剖学、电疗学（一门研究用电流使肌肉萎缩的学科）等领域的各种思想。在拜伦勋爵的建议下，玛丽 ? 雪莱以自己的知识和灵感创造了维克多 ? 弗兰肯斯坦这个角色。在 20 世纪的电影和舞台剧中，弗兰肯斯坦的怪物头上的脉冲电极和结节被渲染得更加夸张，但在雪莱的原版小说中，科学家维克多 ?弗兰肯斯坦利用基本的生命原理，为没有生命之物注入了生命。她甚至还特意强调弗兰肯斯坦在工作中使用的是科学方法，但她对看到怪物那一刻的描述借鉴了古希腊神话中的普罗米修斯或《圣经 ? 旧约》中的《创世记》：我看到这渎神的信徒脸色苍白地跪在一堆东西旁边。我看到那如梦魔般的景象，一个男人探身而起，随后，伴着那些动力设备的工作，显现了生命的迹象，混合着僵硬的、半生半死的运动。这当然很可怕，因为再也没有什么比人类试图创造发明、嘲讽并效仿造物主的伟大规则更恐怖的了。

　　在这段文字中，我们看到的是一个重大的哲学困境，我们不安的根源：谁是造物主 ? 我们所创造的东西什么时候才能真正具有自我意识？

　　《弗兰肯斯坦》将这些问题抛给了不断进步的现代社会，但只要人类在不停地创造，我们就会继续与我们的创造者发生身份冲突。全球的许多影响力巨大的宗教都围绕“无偶像论”颁布了命令与行为准则，禁止以任何物质代表生物和神明。《希伯来圣经》中有无数反对偶像崇拜的段落，比如第二戒律：除了我之外，你们不可有别的神。你们不可为自己建造任何偶像，也不可仿造天地间和水中的万物。

　　你们绝不可向任何偶像跪拜，我是主，我是你们的上帝，我是忌邪的上帝，我必降祸于罪人的子孙，恨我的人，我要追讨他们的罪，直到第三四代子孙。

　　而古希腊神话故事中则充满了各种具有代表性的自动化机械。“在古希腊神话中，火神赫菲斯托斯等角色的发明都是作为奇妙的创新受到赞颂的。赫菲斯托斯甚至设计了全世界首个全自动侍者，侍者通过 20 个轮子在奥林匹斯山上移动，在众神沉溺于美酒时服侍他们。历史学家兼作家帕梅拉 ? 麦考达克（Pamela McCorduck）用了大半生时间记录人工智能的历史，从两个角度分析了我们所创造的生命机器，它们既奇妙、实用，同时又兼具狂妄性和危险性，直到今天，这两个极端仍是冲突的根源。我们敢篡夺这一神或大自然的力量吗？即便我们敢于这么做，我们是否做好了面对意外结果的准备呢？

　　《创世记》的故事讲述神用泥土塑造了亚当的身，然后将自己的灵魂吹入泥土。然后，神教会了亚当一切事物的本质。由于具有了知识和知识所带来的思考能力，神将亚当视为最高等的生物。在这个故事中，神命令天使和恶魔伊比利斯（相当于撒旦）服从这个具有自我意识的新生命。当天使天真地询问为什么要服从他时，神的解释是亚当可以学习知识。他的思想并非静止不动，这使他能够学习、成长和改变。因此，从这段对生命的创造性叙述中，第一种除神以外具有自我意识的生物——人，出现在了宇宙中。

　　当然，我们今天不研究神话和寓言，我们要谈的是人工智能的爆炸性发展，其发展速度已经超越了人类理解其后果的能力，这在现实中意味着什么 ? 连硅谷最强大的公司似乎也在技术方面持有不同的立场。2014 年，特斯拉和SpaceX（太空探索技术公司）的创始人埃隆 ?马斯克（Elon Musk）在麻省理工学院发表演讲，将人工智能称为人类“最大的生存威胁”。他在演讲中指责人工智能是在“召唤魔鬼”。

　　“大家都熟悉这种故事，一个人拿着五芒星和圣水，然后他觉得自己拿着这些就能控制魔鬼了，”他接着说，“但这些人最后都以失败告终。”埃隆 ? 马斯克并非唯一一个“拉响警报”的人。持这一观点的知识界重量级人物还有斯蒂芬 ? 霍金（Stephen Hawking）、比尔? 盖茨（Bill Gates）、牛津大学教授和生存主义哲学家尼克 ? 波斯特洛姆（Nick Bostrom）以 及 亨 利 ? 基 辛 格（Henry Kissinger)）。2014 年，霍金对 BBC（英国广播公司）说：“全面人工智能的开发可能会给人类带来灭绝。”在 2015年接受硅谷热门网站 Reddit的采访时，比尔 ? 盖茨表示：“我属于担心超级人工智能的一方。首先，机器应该代替人类完成大量的工作而不是具有超级智能。如果我们能够有效地控制它，那结果应该会很好，但过了几十年后，人工智能将强大到让我们担心的程度。我同意埃隆 ? 马斯克和其他人对此的看法。我不知道为什么有些人一点都不担心。”

　　2015 年下半年，马斯克宣布自己有意提供 10 亿美元，用于资助一家专门致力于安全人工智能研究的新型非营利性组织。该组织名为OpenAI，这里汇聚了大批该领域中天赋极高的人才，而且他们提出将公布自己的设计与代码。不久后，马斯克、霍金和其他 1000 名技术界的泰斗和重量级人物联合签署了一份呼吁禁止自动武器的公开信。2015 年秋，那些硅谷最著名的技术公司共同建立了“人工智能联盟”，围绕即将到来的智能机器时代，探讨所有与之相关的问题、危险和道德伦理事宜。

　　然而，在本书中，我们将一同探索“反人工智能运动”如何威胁到了人类开发急需的技术，而此类技术可以解决 21 世纪最复杂的问题。在第二章，我将解释为何限制人工智能或采取限量监管措施将对我们的文明造成巨大的破坏，但在讨论这些问题前，我们先要将自己置身于当前围绕着人工智能盛行的文化恐惧中。然后，我们要深入了解算法如何超越人类大脑，完成人类大脑难以企及的工作。机器智能到底是什么 ?

　　有一个问题我们已经司空见惯，关于人工智能的探讨大多以人类为中心：它与我们有多相像 ? 它能“冒充”人类吗 ? 这种思想要追溯到 20 世纪 50 年代。当时著名的数学家艾伦 ?图灵（Alan Turing)（电影《模仿游戏》就是为了纪念这位数学家而拍摄的）发表了他的论文《计算机与智能》（Compluting Machinery and Itelligence)“,并且提出了今天所谓的“图灵测试”。在“图灵测试”中，一个人类询问者分别与一个人类和一台机器进行交流，且交流方式仅限于通过屏幕使用纯文本通道。

　　图灵在论文中指出，当计算机的回答可以欺骗人类询问者，使询问者相信它是人类时，计算机胜利。我们仍在使用各种版本的“图灵测试”作为人工智能获得成功的晴雨表。当人类使用电话通话时，会倾向于认为与自己说话的是一名内布拉斯加州的友好的销售代表，而不是计算机算法，这便是语音识别软件程序的一次重大成功。

　　这是一种奇怪的自我陶醉。我们真的认为只有人类的智能才是唯一值得模仿的智能吗？模仿真的是最终目标吗 ? 关于思想，机器可以教给我们很多东西，而这些思想跟人类的思想没有任何关系。

　　“图灵测试”和其他此类机器学习“模拟”指标，可能与如今的人工智能实际应用关系不大，但这些指标还是深深地吸引了文化界的关注。想一想最近所有关于人类臣服于机器强大模仿能力的电影，比如史蒂文 ? 斯皮尔伯格（Steven Spielberg) 的《人工智能》（Artijfcial Inteligence:Al) 和斯派克 ? 琼斯（Spike Jonze）的《她》（Her)。

　　我们需要说明人工智能如何以截然不同的方式设计思想。我们可能认为我们已经理解了人类世界的“认知多样性”，但无论是哪一流派的人类思想者，都拥有用来激发恐惧的杏仁核、激发未来责任感的前额叶皮层以及将我们眼中的数据转换成图像的视觉皮层。机器的工作模式截然不同，甚至其基板使用的都是硅，而不是组成人类大脑基础的碳。因此，机器思维与生俱来的优势就是速度、不受约束的能耗、无限的记忆（短期和长期记忆），这些都与生物意识有着本质区别。我们目前的人工智能发展到了什么阶段 ? 我们距离真正的人工智能还有多远 ?

　　摘自：《终极智能——感知机器与人工智能的未来》