阿尔法狗对战星际是否有违“不作恶”？

　　近来业界盛传谷歌的阿尔法狗将对战星际争霸2。消息是由暴雪娱乐制作总监Tim在WCS中国站决赛上透露出来的。鉴于星际争霸是一款虚拟战争游戏，有人已提出疑问：将人工智能与提高战争能力联系起来，会不会有违谷歌“不作恶”的信条。初闻令人莞尔，细想却费思量。

　　星际争霸是一部经典的即时战略游戏。虽然只是一款游戏，但它实际不亚于现代战争的模拟。星际争霸2采用的仿真效果十分逼真，战斗代入感比此前版本大大提升。游戏的战争编队可以容纳各种主战单位，实现所有出兵建筑统一编队。游戏包含大本营、陆战队员等军事角色，有攻城坦克、维京战机、运输机、战列舰、航空母舰等武器设备，包含大本营指挥、部队生产、研发、供应、防御等战争行为。游戏看重策略，从侦查、战术运作、到调整战役部队的战略部署，除去一些科幻的成分，如虫子、外星生物之类，行为模式与真实的战争行为无异。例如，在剧情战役模式下，会出现封闭环境的地图，让人像部队长那样判断局势。从开局到中期再到最后，意外转折不断，据说不到最后不能决定哪一方会赢得战争。

　　游戏可能对人在真实世界的杀戮行为产生显著影响。有例为证。在海湾战争期间，有美军飞行员告诉媒体，之所以高效率地完成任务，是因为经常玩空战游戏。在战争中按发射钮击中目标，与在游戏中按发射钮虚拟杀人，几乎没什么差别。另据国外枪击案报道，经常玩杀人游戏的杀手，真实杀人时非常冷静，具有高效省弹特点。与没有经验的人胡乱射击不同，往往一个目标只打一枪。这些也许有所夸张，但战争游戏对人的影响是不可忽视的。星际争霸2玩的不是杀人战斗，而是军事战略，一旦被人工智能实现了O2O，影响更大。

　　人工智能一旦被用到真实的军事目的，它的性质就变了。如果是真的在进行军事训练与模拟也就罢了，但没听说谷歌有向军用方向发展的打算。有评论认为，人工智能在军事上有着很广泛的应用前景，但这件事肯定不是AlphaGo的研究方向，也与谷歌科学家们的初衷背道而驰。人工智能本身是中性的，用于好的目的，是行善；用于坏的目的，就是作恶。如果谷歌一边声称“不作恶”，一边将人工智能用于战争的虚拟增强，不怕别人说他双重标准吗？

　　据谷歌韩国部门公关主管洛伊斯·金（Lois Kim）回应称，阿尔法狗与星际比赛只是存在可能性，一切都还没有确定。但愿这只是星际争霸推销产品的一种炒作。

　　从这件事跳开来说，当前，人工智能可能被用于违背人类正常价值观的用途，可能性不是越来越小，而是越来越大。这样的前景越来越令人担心。这才是人们对阿尔法狗有点神经过敏的心理原因。问题出在哪？我认为，在一些关系人类重大命运的科技发展上，缺乏来自自然科学之外的社会科学评估，是一种程序缺失。

　　科学家有时深刻得像老人，有时天真得像孩子。深刻往往在自然科学方面，天真往往在社会科学方面。如果有一种方法，能把人类玩死，老人的第一反应是赶紧把它停止，而小孩的第一反应却很可能是出于好奇，要马上玩玩看。

　　2010年5月21日，美国宣布第一个完全是人造基因的人工生命产生了。但政府的反应是要求停止，先进行伦理审议。对人工智能的某些敏感开发进行伦理审议，也应当作为一件正事，提上议事日程。

　　但愿我的担心只是小题大做。别出现这样悲摧的一幕，将来外星人在真正的星际争霸史上给我们来一笔总鉴定：有地球，人很能干，遂将自己玩死。

　　文/姜奇平

关注读览天下微信， 100万篇深度好文， 等你来看……