AI决定拍什么 非虚构作品面临风险

　　编译／田 英

　　几乎每位搞创作的人，都感受到了人工智能（AI）那只看不见的手。

　　在北美主流社交媒体上，TikTok用户根据AI算法推荐，产出精心策划的内容，刺激网友多巴胺，从而获得更高点击量。在好莱坞，制片人根据流媒体平台的AI大数据开发项目，和AI推荐的演员签订薪酬丰厚的合约，而各平台却对收视数据采取了避而不谈的微妙态度。

　　收视数据是建立在推荐引擎的环形反馈上的，观众的行为首先被这些推荐引擎塑造，之后又加强了引擎的环形反馈。所以有人说，人类的价值创造正在逐渐被AI取代，无论是TikTok，还是各个流媒体，“以人为本”的宝贵创新空间正在关上大门。

　　当下美国编剧协会举行的罢工，主要诉求之一就是抵制AI，这当然没问题，但眼下更迫切需要抵制AI的领域是纪录片和非虚构类题材的内容。

　　目前，创造性职业都面临着极大的不确定性，但就更为广泛的文化领域而言，算法主导的业界生态面临的最大威胁，并非来自于自下而上、由AI生成的社交媒体内容（比如，近期在网络上流传的AI生成韦斯·安德森风格《星球大战》预告片），真正的威胁来自于自上而下、由AI驱动的艺术平台化，这已经发生在整个媒体领域——AI算法正在全球范围内决定讲述哪些故事，以及如何讲述这些故事——在非虚构领域，这种趋势愈演愈烈。

　　MRC娱乐公司非虚构部门执行副总裁阿米特·戴伊（AmitDey）认为，“将AI应用于纪录片的创作和实际制作中，这没什么，我们的主要威胁来自于AI进行决策。人类制作的作品和人工智能制作的作品在市场上竞争，这是一回事；但当观众应该看什么皆由AI数据、算法决定时，那就完全是另外一回事了。比如，让AI决定该在什么时间购买什么项目，这些项目将会投放哪些平台，以及最重要的，让AI决定我们要讲什么故事，是否明智？”MRC娱乐公司目前正在制作跟音乐人斯莱·斯通（SlyStone）与美国政客鲁道夫·朱利安尼有关的两部纪录片。

　　美国资深媒体人及制片人埃文·夏皮罗（Evan Shapiro）不久前在2023春季戛纳电视节（MipTV）上发表演讲，指责“外包”这个在好莱坞有悠久历史的传统如今正在被人工智能“模式化”，“从电话调研、小组访谈到民意调查，某些公司的电视部门高管长期以来把给项目亮绿灯的决定权外包给第三方，这等于给自己编织了一张不用为失败决策负责的保护网——外包环节让他们得以在节目成功时名利双收，节目不成功时推诿过错。如今，把这个决定权交给AI，更是给了他们一个时髦的借口。”

　　事实上，AI已经涉足好莱坞电影制作的各个层面。

　　为苹果旗下流媒体平台Apple TV+制作NBA球星约翰逊纪录片《魔术师传奇》（They CallMe Magic）的XTR工作室CEO布林·穆瑟（Bryn Mooser），最近开发了一套名为蕾切尔Rachel）的专有算法，以帮助指导项目开发。穆瑟把他的算法称为“时代精神机器”，这一算法通过梳理社交媒体，找到时下流行趋势，然后围绕这些元素开发项目。

　　穆瑟说：“自从ChatGPT出现，世界就在一夜之间改变了。我们一直把AI看作一种工具，而作为工具，它相当有用——当下流行什么话题，人们在谈论什么……我们搜集这些数据，并与纪录片领域的历史数据相结合，就可以预知哪个项目能成。让AI作为帮助电影制作人把握方向的工具，能力卓著且非常重要，我希望人人都拥抱AI。”

　　虽然，目前各大影视传媒公司最终做出定夺的还是人类高管，但随着AI产生的数据洞察强力推动观众参与度——出现公司高管一意孤行、不撞南墙不回头的可能性也将越来越低。

　　举例来说，如果大数据显示真实犯罪题材是稳赚不赔的买卖，为什么好莱坞公司决策层还要在更新奇的概念上冒险？高管们趋利避害，这是人的天性，不应该受到指责，尤其如今好莱坞大公司都在施行减员增效，并不提倡承担风险的行为。在AI驱动下，高管们更是可以完全逃避因为自行决策而承担的不利后果。

　　但是，一味追求关注度最大化的竞争无疑是恶性竞争。在非虚构领域，从职业道德角度来说，这是一种通往无知和谬见的竞争。

　　2021年，美国电影制作人摩根·内维尔（Morgan Neville）在纪录片《流浪者》（Roadrunner）中，使用AI技术重新创建了知名美食家安东尼·布尔丹（AnthonyBourdain）的声音，引起极大争议。摩根·内维尔从媒体刊发过的布尔丹访谈中提取了他曾说过的言论，并使用名为深度伪造（deepfake tech）的AI技术，“让文字变成声音”。去年，Netflix系列纪录片《安迪·沃霍尔：时代日记》（The Andy WarholDiaries）也曾运用这一技术合成沃霍尔的声音，作为解说旁白。

　　到了今年，此类争议的话题性逐渐减弱，因为AI技术已经发展到能够“无中生有”地生成以假乱真的音频、视频和照片。

　　无论是否使用AI作为电影制作工具，就纪录片领域不断变化的道德标尺，业界人士有不少意见。有人指出，人类的决策权让渡给算法，利用大数据来决定购买哪个项目，甚至一步步来塑造项目，这种行为可能会挑战整个行业从业者的职业道德标准。虽然不管是各个公司的民意调查、电话调研，还是尼尔森公司整合的收视数据，这些数据的处理过程都是透明的，包含了人类的责任在内。当业界把决定权越来越多拱手让给并不透明的AI时，技术就不再是提高开发效率和成本最小化的工具，而是成为决策者自身，而且还是一个无法洞悉其内部运作的“黑匣子”。

　　非虚构叙事塑造了人们对真实世界的理解。正因如此，纪录片领域保留由人来策划这一紧迫性高于其他类型的内容。好莱坞一直试图保持商业主义和艺术表达之间的平衡，这让它得以打造出自己的艺术品牌。但现在，世界与真实世界之间的关联岌岌可危，甚过历史上的任何时刻。推特、Facebook等社交媒体上虚假信息泛滥，很大程度上要归咎于算法无法有效筛选内容。

　　纪录片旨在告诉大众真相，非虚构作品需要建立起观众的信任—信任根植于透明度和完整性—这完全依赖于人为的端到端的控制。

　　以深度伪造技术为例，如果观众不能相信他们看到的图像、听到的声音是真实的，纪录片就会失去其最大意义。与电影或电视剧不同，如果观众不能相信一部纪录片作为非虚构作品的完整性，这就是一部一败涂地的纪录片。

　　由人类决策并主导一部纪录片的拍摄、制作，观众可以质疑出品方或播出平台批准制作这部纪录片的动机，但观众无法质疑AI算法推荐内容的动机，因为算法肯定认定这些内容是大众“喜闻乐见”的。

　　潜水艇公司是一家业内知名的纪录片公司，其总裁之一乔希·布劳恩（Josh Braun）认为，随着娱乐业将AI整合到业务的各个方面，技术必须只是作为工具存在，而不是代替人类做出判断并承担责任。这正是美国编剧协会目前罢工对峙中表达的重要诉求——保护非虚构叙事的完整性至关重要，它是少数几个神圣不可侵犯的领域，“归根结底，在AI的影响下，无论做任何事情都必须以强大的道德作为指南针，以诚实、透明和尊重故事中人物的尊严为指导原则。”

　　但现在说这些，或许为时已晚。