人工智能奇点临近？

　　即便奇点遥不可及，或者毫无可能，人工智能的迅猛进步也会带来无数可能性。

　　计算机概念化的能力能否达到人类大脑的水平？这是人工智能的决定性问题。

　　一台计算机不只是支持系统运行，还能构思系统？最重要的是，计算机能不能批判性地审视自己，自我评估，并设计一种新的解决方案？

　　截至2017年，答案是基本上不能。尽管人工智能取得了巨大胜利，比如谷歌DeepMind完胜世界一流的围棋选手，Watson在智力竞赛电视节目《危险边缘》中赢得100万美元大奖，但这项技术仍处于起步阶段。与人脑相比，计算机是很强大，但本领有限。

　　当然，计算机在原始处理能力上有其巨大的优势。IBM的Watson在短短一秒钟内就能获取5000多亿字节（相当于100多万本书的内容）。为备战围棋比赛，谷歌的DeepMind被喂以3000个万实例，以此“接受训练”。这么强大的计算能力只会越来越强大。

　　不过究其本质，Watson赢得《危险边缘》的秘诀只是超强的数据检索能力。虽然DeepMind的围棋胜利需要极其强大的认知敏捷性，但它并不具有创意。它只是结合了先进的逻辑推理能力和蛮力计算能力。

　　我们人类不仅拥有智能，还拥有元智能（meta-intelligence）。我们创造新的、不可预见的跨越式思维；我们把框架翻转过来，挤压它，粉碎它，发明出令人惊讶的东西。开发人工智能之所以如此困难，原因之一就在于我们不知道大脑机理到底是怎样的。

　　我们都搞不懂我们自己，那么怎样才能复制我们自己呢？

　　自我学习

　　人类是种奇特的生物，但我们所做的任务大多数可以简化为例行程序，人工智能每年在复制人类的一些部分。像iRobot Roomba 650这种辅助机器人可帮助我们打扫房屋。从宝马到现代的众多汽车厂商在研发自动驾驶汽车。无人机将会配送我们在网上购买的商品。人工智能计算机能够识别图像（在有限的场景下），并对自然语言做出略嫌笨拙的响应。

　　的确，人工智能的基础工具都执行类似人脑的某种功能。机器学习利用算法来“学会”对不断变化的输入做出响应；它常常输出预测结果或某种下一个层次的总结。

　　神经网络是一种类似人类中枢神经系统网络（包括大脑）的软件。它使用自适应软件架构和规则－编程工具集，支持多变量的输入和输出。神经网络能够“学习”，从各种不同的非线性输入生成输出。而这正是人类大脑的机理。

　　深度学习将神经网络结合到复杂的响应式结构中，这种结构能够生成抽象的数据模型。深度学习仰仗于如今超快速的GPU计算机处理器，是人工智能的最前沿领域。深度学习有一个著名的例子，人工智能领域的先驱安迪·吴（Andy Ng）给一个神经网络输入来自YouTube视频的1000万张照片，从而让计算机能够识别猫的图像。

　　这些工具技术带来的人工智能进展意味着，一度出现在低级杂志科幻小说中的那种恐惧现在似乎是可信的：配备人工智能技术的机器人有一天会超越人类。机器人的大脑会塞满美国国会图书馆的所有知识、维基百科以及数十亿个实例模式。深度学习神经网络会让机器人的大脑能够“思考”。这种大脑（姑且这么称之）会基于过往的经验，综合学到的知识，生成新颖而独特的输出。

　　这种能够自我学习的机器人之后可能会引发奇点（singularity）――受已知的物理定律不再适用的这个物理概念的启发；到了这个转折点，人工智能超越人类智能。到那个时候，超级智能机器可以决定自己的未来，能够以我们再也不能预测或控制的方式大步迈进。在这种场景下，机器人可能的确会“反抗”。或者更准确地说，它们会变成完全独立的个体。甚至会出现这种反面乌托邦的场景：我们人类将沦为亲手缔造出来的技术统治者的服务台支持人员。

　　“科学怪人”担忧

　　事实上，一直以来，人类对于被自己创造出来的某种技术取而代之深表担忧。

　　在英国女作家玛丽·谢利（Mary Shelley）1818年出版的《科学怪人》（Frankenstein）一书中，那位年轻科学家找到了为庞大的试验品赋予人类意识的方法，后来那个庞然怪物逃出了实验室，毁掉了创造它的主人的生活。

　　人形机器人反抗这个主题会反复出现在无数的科幻小说、电影和电视剧中。George Jetson的机器人同伴Uniblab原来是个奸诈的对手，诱使Jetson对老板爆粗口。在《2001：太空漫游》（2001： A Space Odyssey）中，HAL 9000拒绝让太空人返回宇宙飞船，留下了那句有名的台词：“戴夫，对不起，我想我不能那么做。”电影《机械姬》（Ex Machina）中的机器人夏娃解放了自己；而在电视剧《西部世界》（Westworld）中，饱受人类虐待的机器人对所谓的主人以其人之道还治其人之身。

　　人工智能果真会超越缔造它的人类吗？知名的未来学家雷·库兹韦尔（Ray Kurzweil）预测奇点会出现在2045年，也就是人类大概再过一代。库兹韦尔担任制片人的影片《奇点临近》（The Singularity is Near）探究了种种可能性。

　　许多顶级的技术专家认为奇点只是不切实际的幻想，或者说太过遥远，不值得讨论。在他们看来，人类大脑完全是多面手，没有哪个计算机系统会超越它。不过科学技术发展史表明，技术迎来突飞猛进是常有的事。1927年，林德伯格乘坐飞机穿越大西洋，轰动全球，当时他飞行了33个小时。1969年，人类就登上了月球，阿波罗11号登上月球只用了不到76个小时。

　　即便奇点遥不可及，或者毫无可能，人工智能的迅猛进步也会带来无数的可能性。基因工程结合人工智能，以期打造超级人类，怎么样？像科学怪人那样结合人工智能和人类大脑，怎么样？通过USB接口连接至我们的大脑？人工智能融合虚拟现实，营造一种全新的现实？

　　《科学怪人》中一个很重要的转折点是，科学怪人在获得人类意识后备感孤独。他要求创造自己的主人科学家Victor给他创造一个女性伴侣。这让Victor极为担忧：如果他创造一个女性伴侣，那么这对怪物可能会繁衍后代，到时可能危及全人类。就像今天的人工智能开发人员一样，Victor面临自己的作品带来不可预知的影响。

　　Victor拒绝了科学怪人的要求，但也意识到：一旦你创造出了独立的、有意识的生物，就无法再回头了。科学怪人狂怒之下追杀Victor，杀害了他的新婚娇妻后逃之夭夭。为此，Victor试图报仇雪恨，一路追凶到北极圈，但死于途中。科学怪人为Victor的去世悲痛万分；因为科学家是世上唯一懂自己的人。他决定了结此生，最后一幕是消失在一块浮冰上。

　　由于如今的人工智能开发人员制造的系统越来越独立，我们就不由得会想：结局是否比Victor的结局更好？当然，Victor的试验品困扰的只是他个人生活，而目前的人工智能进展将会影响整个人类和社会。人类往前看，也许很乐观，但肯定又觉得不安。现阶段，我们只能希望有最好的结局。

　　人工智能会引发奇点吗？

　　人工智能突飞猛进的表现，带来了表现“堪比人类”的众多案例。但在大多数情况下，只是处理单一的独立任务。

　　即便通过艾伦·图灵（Alan Turing）在1950年提出的图灵测试也仍然并非易事。如果计算机能让人类误以为它是人类，如果它能模拟真正的人类智能，就算通过了图灵测试。在测试中，人类评委与计算机进行对话（完全以文本形式）。如果计算机让一定数量的听众觉得自己在跟人类进行对话，表明它玩“模仿游戏”成功过关（《模仿游戏》也是歌颂图灵在二战中破译代码的丰功伟绩的一部影片的名称）。

　　2014年，能说会道的聊天机器人Eugene Goostman让雷丁大学三分之一的评委误以为它是来自乌克兰的13岁男孩。不过，人工智能专业人士大多认为这毫无意义，这是与人工智能领域的真正成就背道而驰的作秀。这些年来，图灵测试本身的可信度略有下降；通过文本骗过人类未必证明拥有真正的智能。

　　人工智能仍然面临一大挑战：虽然计算机擅长在有限的环境下处理特定任务，但它们仍无法实现人类大脑那样的宏观意识。

　　佐治亚理工学院研究所的研究科学家若尔特·基拉（Zsolt Kira）说：“仍然基本上欠缺这种能力：组合成一个更庞大的认知架构，在这种架构中，人工智能系统可以做人类仍很擅长，计算机不擅长的许多事情。”

　　基拉表示，人工智能的一大限制是记忆。他说，人脑做出无数决策，决定给予足够的关注以便记住什么、丢弃什么，这些其实不是我们所做的有意识的决策，而是我们大脑所做的事情，人工智能系统还无法复制这些元智能层面的东西。克服这个困难需要解决长期记忆和短期记忆问题。“眼下，许多这些概念其实还没有得到解决。”

　　总之，人脑擅长的是神奇的综合能力，这正是人工智能欠缺的。霍加特特别指出，人类智能“是历经千万年进化而成的一种很特殊的东西。你也许可以造出会说话、会理解、会感知情感又好玩的机器人，但它还是会让人失望。”

　　科茨高度评价了人工智能领域的许多前沿进展，但是对于真正有意识的人工智能即奇点的出现，他说：“我认为离我们还很遥远。眼下，我们在如何开发那种技术方面缺乏切合实际的计划。当前许多研究热点围绕这方面的难题，但我还是觉得相当遥远。”

　　对于阿贝尔来说，奇点是个令人关注的问题，值得深思。他特别指出，人脑实际上结合了存储能力和计算能力，以及感觉输入和输出。如果科学家们组装成一个计算、存储和感觉输入/输出能力与人脑相当的数字系统，到那时，“关键其实是有一种能够与我们大脑内部某种智能相媲美的程序。等到有了那样的程序，人工智能才能匹敌人类智能。”

　　他提出了未来构想：人类可以将技能直接下载到大脑中，就像电影《黑客帝国》中那样。他指出，如果人类能做到这一点，那么人工智能系统肯定也能从其他人工智能系统随意下载技能和数据库。

　　超级系统互联的这种场景可能预示着人工智能在未来的突破：虽然单一的人工智能系统存在局限性，但如果几个人工智能系统互联起来，那会怎样？比如，像IBM的Watson这种系统与像谷歌的DeepMind这种系统互联起来，那会怎样？从理论上来说，人工智能超级网络中的每个单元都会增添其学习工具（神经网络阵列），形成认知力超越人类的融合体。

　　所以，虽然我们不清楚人工智能具体会如何影响人类生活，但可以肯定的是，人工智能会给我们带来深刻的、不可预见的影响。简而言之，倘若有疑虑，最好对你的机器人好点。

　　文/詹姆斯·马圭尔 编译/沈建苗

关注读览天下微信， 100万篇深度好文， 等你来看……