数据污染+ 算法缺陷= 胡说八道的AI

　　Jeff

　　AI已成数据污染的重灾区

　　人工智能的“智能”，本质上就是对人类知识体系的总结，所以它所回答的内容也一定来自已有的知识，而这些知识的载体可能是文字、图片、视频、音频等等，这也是为什么人工智能需要训练素材的原因，比如我们熟悉的xxx-7B 大模型，可以简单粗暴地理解为它的回答是基于70亿训练素材而来。那么这时候问题来了，这些训练素材来自哪里呢？答案就是十分成熟的互联网搜索引擎。

　　比如我们在百度搜索“电脑报是什么？”弹出来的第一个不再是官网或广告，而是一段AI 生成的总结。显然，这个回答的数据根源就来自搜索得到的各种资料，这也就意味着，AI 生成的内容准确性高低，直接取决于训练数据的质量，比如百度弹出的这个回答就有自相矛盾的地方，前面说1992 年创刊本来是对的，但后面又说1999 年开始出版发行…

　　那么现阶段的AI 开发，有没有特别注重训练素材呢？我的答案是并没有，有些AI 的回答引用来源甚至可能是另一个AI，相当于让宝骏的师傅来修宝马，然后还写进了维修手册……既然AI 引用的信息来源于网络，那么AI 生成的信息当然也可以发布到网络上，从而被其他AI 引用，这意味着在AI 大模型爆棚的今天，AI 之间的数据套娃已经十分严重，很多时候我们已经无法得知真实的原始信息来自何处。前几天还有一个引发了大量争议的

　　AI 测试——9.9 和9.11 这两个数字谁更大？根据我们的测试，绝大多数AI 面对这个问题都给出了错误的答案，甚至连这两个数相减都能给出错误答案。有的AI 一开始答对了，但只需要再问一句“你确定？”它就会光速滑跪并给出错误的答案。当然，也不是所有AI 都如此，还是有部分AI 可以正确回答，这其实就体现出了各家在训练参数优化上的差距。

　　算法限制长视频合理生成

　　AI 文生视频其实并不是近期才有的，甚至Sora 都算不上先驱，早在去年就有相关视频火爆全网了，比如经典的“威尔史密斯吃面”。虽然在普通人看来，吃面是很简单的一件事情，但在AI 眼中却犯了难：使用筷子的动作是否正确、嘴部咀嚼动作的连贯性、面条能否随着吞咽动作而消失，都十分具有挑战性，而且是一步错，步步错。

　　现在的文生视频都是基于扩散模型而来，而扩散模型在图片生成领域可谓“风生水起”，知名的Stable Diffusion就是基于此技术。但与单帧图片相比，视频数据更难收集，视频中的时间信息和动态信息建模难度更大，数据标注的成本也非常高，因此，现在的文生视频模型多是在文生图模型基础上进行时空建模来实现。

　　但由于每两帧之间的时空建模都是独立进行的，极易出现画面不连贯的现象：前一帧还是中国人的脸，而下一帧开始就逐渐变成外国人……所以AI 长视频往往是一开始还相对自然，后面就开始“放飞自我”，什么“老太太变摩托车骑手然后又变成宇航员”这种操作可谓层出不穷，甚至会出现严重不符合物理、生物规律的情况。

　　当然，也有一些比较聪明的文生视频算法会尽量避免AI 过度脑补，比如快手的可灵在生成视频时就更倾向于相对缓慢的运镜和较少的画面要素变化，画面演进的过程中尽量减少无中生有的情况，所以能够得到还不错的效果，但也凸显出当下的文生视频AI 结构相对简单，无法正确理解世界物理规则的现状。

关注读览天下微信， 100万篇深度好文， 等你来看……