AI 为何会“一本正经地胡说八道”
- 来源:电脑报
- 关键字:AI,知识,内容
- 发布时间:2024-01-13 09:59
AI“一本正经地胡说八道”这种现象被称为AI 幻觉。指的是AI 会生成貌似合理连贯，但同输入问题意图不一致、同世界知识不一致、与现实或已知数据不符合或无法验证的内容。
经过国外检测，目前OpenAI、元宇宙 Meta、Anthropic 等公司的大语言模型都会产生AI 幻觉。
OpenAI 的研究人员虽曾在今年6 月发布报告称“找到了解决AI 幻觉的办法”，但也承认，“即使是最先进的AI 模型也容易生成谎言，它们在不确定的时刻会表现出捏造事实的倾向。”科大讯飞研究院副院长、金融科技事业部CTO 赵乾表示，AI 幻觉可以分为内在幻觉和外在幻觉两类。从技术原理上看，AI 幻觉多由于AI 对知识的记忆不足、理解能力不足、训练方式固有的弊端及模型本身技术的局限性导致。
关注读览天下微信，
100万篇深度好文，
等你来看……
