假新闻2.0：人工智能将搅乱美国总统大选？

　　作者：Jeremy Kahn

　　今年2月27日，在如火如荼的芝加哥市市长选举前夕，一个自称“芝加哥湖畔新闻”（Chicago LakefrontNews）的推特（Twitter）账号发布了候选人保罗·瓦拉斯（Paul Vallas）的一张照片和一段音频。此前担任市政府预算主任和学区主管的瓦拉斯，是四位角逐芝加哥最高职位的参选人之一。根据这段音频，他似乎在刻意淡化警察枪击事件，说“在我那个时代，”一位警察在其职业生涯中可能会杀死多达18位平民，“没有人会眨一下眼睛。”这段音频继续说道：“这种‘停止为警察提供资金’的言论将导致芝加哥陷于动荡，无法无天。我们现在需要做的，不是撤销警察资金，而是重新为他们提供资金支持。”

　　事实证明，瓦拉斯并没有说过这些话。这段音频很快就被证伪，很可能是用某个容易访问、用于克隆声音的人工智能软件制作而成的。在音频发布前几天才注册的“芝加哥湖畔新闻”账号很快就删除了这条推文—但在此之前，它已经被成千上万的人看到并广泛转发，一些人显然上当了，相信“录音”是真实的。依照目前的情形看，这段音频对市长选举影响甚微：瓦拉斯赢得了多数选票，并在本文发稿时进入第二轮决选阶段（他最终以微弱劣势败北—译注）。但专家们表示，这种克隆瓦拉斯声音的做法堪称一次令人惊悚的预演：拜人工智能的飞速发展所赐，2024年美国总统大选很可能会遭遇类似虚假信息的侵袭。

　　这些新型人工智能系统被统称为“生成式人工智能”。比如，最近大火特火的文本处理工具ChatGPT只需要几个提示，就能够生成学生期末论文和商业电子邮件。但它只是这种技术的一个例子而已。一家名为ElevenLabs的公司发布了一款可以利用仅仅几秒长的样本来克隆声音的软件。

　　此外，现在任何人都能够订购OpenAI的DALL-E 2、S t a b l e D i f f u s i o n或Midjourney等软件生成的逼真静态图像。尽管人工智能利用文本提示创建视频的能力还处于初级阶段，例如位于纽约的新创企业Runway开发的软件可以生成几秒钟长的视频片段，但精通深度伪造技术的骗子完全能够制作出足以乱真、让许多人上当受骗的假视频。

　　纽约大学（New YorkUniversity）的认知科学名誉教授、人工智能专家加里·马库斯（Gary Marcus）忧心忡忡地表示：“这真的令人不寒而栗，寝食难安。”他一直在警告公众，支撑这项技术的大型语言模型是民主面临的一大威胁。尽管我们已经在过去几届的美国总统大选中见证过人们利用社交媒体发布和传播虚假信息的景象，但人工智能的强悍能力远非人类所能企及—正是这种以前所未有的数量和速度传播假消息的能力，以及非母语人士现在只需要敲几下键盘就可以用大多数语言写出通畅文本这一事实，让这种新技术成为一个巨大的威胁。“很难想象人工智能生成的虚假信息不会在下次大选中掀起波澜。”他说。

　　并不是每个人都确信，如今的情势像马库斯描述的那样惊悚—至少现在还不是。专门研究人工智能和新兴技术影响的布鲁金斯学会（B r o o k i n g sInstitution）的研究员克里斯·梅塞罗尔（C h r i sMeserole）指出，最近几届的美国总统选举已经出现了非常高水平的人造虚假信息，他不确定新的人工智能语言模型会带来显著的变化。“我认为这不会彻底改变游戏规则，2024年预计不会跟2020年或2016年有明显的不同。”他说。

　　梅塞罗尔还表示，视频深度伪造技术还不足以搅乱2024年美国总统大选（尽管他认为，2028年的情况恐怕会有所不同）。真正让梅塞罗尔担忧的是语音克隆。他指出，一个很容易想象的场景是，一段音频在选举的关键时刻浮出水面，它记录的据称是候选人在私下场合里发表的可耻言论。尽管在场人士可能会否认音频的真实性，但外人恐怕很难确定。

　　那么，虚假叙事究竟是会说服任何人，还是只会强化一些人的现有信念？牛津互联网研究所（Oxford InternetInstitute）的技术与监管教授桑德拉·瓦赫特（SandraWachter）称，相关研究给出了相互矛盾的结论。但在一场势均力敌的选举中，即便是这种边际效应，也可能是决定性的。

　　面对机器生成式假新闻的威胁，一些人认为人工智能本身可能是最好的防御手段。在西班牙，一家名为Newtral、专门对政客言论进行事实核查的公司，正在试验类似于ChatGPT的大型语言模型。该公司的首席技术官鲁本·米格斯·佩雷斯（RubenMiguez Perez）表示，这些模型不能真正验证事实，但可以帮助人们更好地揭穿谎言。这种技术能够在一段内容做出值得核查的事实声明时进行标记，还可以检测其他宣扬相同叙事的内容，这一过程称为“声明匹配”。他说，与其他机器学习技术结合使用，这些大型语言模型也有望根据内容蕴含的情绪来评估某种说法是错误信息的可能性。米格斯·佩雷斯指出，借助这些方法，Newtral已经将识别可疑陈述所耗费的时间减少了70%到80%。

　　大型社交媒体平台，比如F a c e b o o k和谷歌（Google）旗下的YouTube，一直在研究具备类似功能的人工智能系统。Facebook的母公司Meta表示，在2020年美国总统大选前夕，这家社交平台为超过1.8亿条被第三方事实核查员揭穿的内容贴上了警告标识。尽管如此，仍然有大量虚假信息蒙混过关。事实上，人工智能模型尤其难以捕捉那些借助图像和文本来传递观点的“表情包”。Meta宣称，自2020年美国总统大选以来，其人工智能系统获得了长足进步，但虚假叙事散布者正在持续不断地设计一批批人工智能模型从未见过的新变体。

　　马库斯指出，合理的监管或许能够发挥一定作用：政府应该要求大型语言模型的创建者刻上“数字水印”，从而让其他算法更容易识别人工智能生成的内容。作为ChatGPT的创建者，OpenAI确实谈过这种水印，但尚未付诸实施。与此同时，该公司还发布了免费的人工智能内容检测软件，但这种软件只在大约三分之一的情况下有效。马库斯还表示，美国国会应该将大规模制造和传播虚假信息定为非法行为。尽管第一修正案（FirstAmendment）的支持者可能会高声反对，但宪法的制定者无论如何都想象不到未来有一天，人们只需要按一下按钮，就可以利用技术生成无数令人信服的谎言。

　　话说回来，美国在建国之时，即18世纪末期，也是一个传播虚假信息的黄金时代。层出不穷的匿名传单和党派报纸肆无忌惮地兜售政敌和对立党派的卑鄙故事。牛津大学的瓦赫特指出，民主在那时得以幸存。也许这一次也会如此。但我们很可能会见证一场史无前例的选举活动。

关注读览天下微信， 100万篇深度好文， 等你来看……