我们必须正视AI的幻觉问题

📝

内容提要

谷歌、OpenAI和微软等科技巨头在加大人工智能（AI）投资和研发力度。然而，AI系统准确性问题引发担忧，容易出现“幻觉”，创造错误的新现实。AI研究人员认为这是无法解决的小问题，但对于即将改变生活的工具来说，这是不可忽视的。人们寄望于AI提供准确信息和帮助。

🔎

延伸解读

AI幻觉：技术缺陷还是必然特性？

文章指出，AI的“幻觉”现象——即生成错误信息——并非偶然故障。新加坡国立大学的研究表明，幻觉是所有大型语言模型的必然结果。这意味着，无论技术如何进步，AI都可能无法完全避免创造错误现实。对于依赖AI提供准确信息的用户来说，这是一个需要长期面对的根本性限制。

科技巨头的矛盾态度：提醒准确性却不视为严重问题

尽管谷歌、OpenAI等公司在展示AI工具时添加了“检查准确性”的小字提示，但它们并不认为幻觉是一个严重问题。OpenAI的CEO甚至认为对准确性的担忧是“天真的”，强调AI的“魔力”在于创造性。这种态度反映了商业利益与用户需求之间的张力：公司更倾向于推广AI的创造性，而非解决其可靠性缺陷。

用户期望与AI现实的落差：从个人案例看准确性危机

文章作者以自身经历为例，指出Meta AI错误地将其描绘成有胡子的男性，ChatGPT和Gemini也提供了错误信息。这些案例表明，AI在处理细节时常常出错，影响用户体验。用户期望AI提供准确信息，但当前AI的“魔法”往往伴随着不准确，这可能导致信任危机，尤其是在法律、医疗等关键领域。

❓

Q&A

AI的幻觉现象是什么？

AI的幻觉现象是指机器在发现信息模式时，偶尔错误地推断和创造新的现实，导致提供不准确的信息。

主要科技公司如何看待AI的准确性问题？

主要科技公司通常认为AI的准确性问题是小问题，提醒用户检查信息的准确性，但并不认为这是严重问题。

AI幻觉现象的不可避免性有什么依据？

研究表明，幻觉是大型语言模型的不可避免结果，类似于人类并非总是正确。

用户对AI的期望是什么？

用户希望AI能够提供准确的信息，而不是依赖于不准确的“魔法”。

OpenAI的CEO对AI准确性问题的看法是什么？

OpenAI的CEO认为对AI准确性问题的担忧是天真的，强调AI的“魔力”在于其创造性。

AI在处理细节时常见的问题是什么？

AI在处理细节时常常出现错误，影响用户体验，例如错误识别性别或提供不当建议。

🏷️

标签

ai 人工智能 准确性问题 幻觉 投资 研发力度