模拟“文明”：AI 自治的平行世界长什么样？

　　■ 邻安

　　创造数字人类的愿景

　　9 月4 日，AI 游戏初创公司Altera推出一个代号为“Sid”的项目，任务是开发能模仿人类品质（如同理心、记忆和社会规范）的AI 代理。团队将1000 个AI 智能体投放在Minecraft 的虚拟环境中，让它们通过彼此的互动创建复杂的社会，包括经济、民主甚至宗教体系，并利用协作推动社会的运作和治理。

　　游戏故事的设定与常见的种田类休

　　闲游戏其实很类似，区别在于这些智能体拥有“自主意识”，即他们可以根据游戏的规则完全自主地活动，并能利用工具实现游戏目标。

　　例如，几个角色人物通过分工共同收集上百件物品，并将宝石作为统一货币，进行商品交易，逐渐形成经济体系。一个名为Roshi 的智能体可以手把手教人玩游戏，除了常规的示范演示，还能做出“情绪反馈”，玩家发出跟随指令做出恶作剧，Roshi 会使用作弊代码进行报复。

　　Project Sid 的视频中，还演绎了民主制度的运行，公民们分别在模拟角色“特朗普”和“哈里斯”的领导下对共享宪法修正案进行投票，最终前者通过新的法律并增加警察数量，后者则推动司法改革并废除死刑。这一过程向人们展示了智能体角色之间如何交换信息、承担职责，通过权力管理社会并改造世界，有人提出未来或许可以将法律放到虚拟环境中模拟政策效果。

　　算法下的“文明”演绎

　　如果说目前常见的生成式AI 还停留在单向度解决问题的层面，通过理解提问的方式进行机械的人机交互，那么智能体的自主行动、学习和相互影响则向人们描绘出AI 下一步的进阶目标。

　　以往游戏中的NPC 只是代码创造出的剧情工具，通过设定不同情形和角色对话来推动游戏进度，而融入“自主意识”的AI NPC 能够长期自主活动、协作组织，甚至尝试理解动机、表达自我，使自身行动贴合人类的价值观。背后的原理是Altera 团队采用了系统神经科学复合架构对人脑功能进行建模，使这些数字生物能够不断学习和适应。

　　有论文指出，这种智能体社区本质是在虚拟世界中打造一种社会计算系统（social computing system）， 即设定的角色对实时学习环境不断做出反应，常见的通过气象数据做出天气预报模型也是一样的原理。但无论是技术上还是伦理上，仍有许多问题等待解答。

　　比如，“一千个人眼中有一千个哈姆雷特”，角色的主观看法和反应很难通过系统的设定和数据的堆砌来穷尽。下雨天人们会在屋檐下躲雨，但也有人选择在雨中嬉戏，有人窝在家中休息，也有人因为雨天人少错峰出游。这种有限的设定会让模拟世界难以跳脱出机械化的弊端，并且由于对越轨行为的控制和调节能力降低，模拟世界会面临更大的风险，当这种偏差足够大，就很难实现“模拟”的意义和价值。

　　再比如，根据计算模型训练智能体的过程难以避免进行价值取向的判断，角色的反应始终是后台训练的结果，本质取决于团队对社会规范的理解和对训练数据来源的选取，那么如何确保建模后的智能体是“完全理性”的？如果初始设定无法“归零”，那么后续进行的模拟结果又如何作为参考呢？

　　计算主义思潮认为，人所处的整个世界是由算法控制，并按算法确定的程序进行演化。如果依照这样的前提设定，任何人类社会的事件都是自然规律计算下的结果，当技术算法足够先进复杂，就能完全模拟出人类社会的运作与演替。

　　尽管这一观点招致了“过度强调对计算理性和量化社会的追求”的批评，但AI 算法的发展，让人们看到“模拟世界”在技术上或将成为可能，那么上述问题就成为AI 场景落地中无法绕开的话题，Project Sid 的出现仅仅是第一步。

关注读览天下微信， 100万篇深度好文， 等你来看……