【外评】我们不能再忽视人工智能的幻觉问题了
原文中文，约2600字，阅读约需7分钟。
📝
内容提要
人工智能的发展速度令人震惊，但也存在幻觉问题。机器在推断和创造时偶尔会出错，导致不准确的结果。人工智能的准确性应该得到重视，而不仅仅关注其便利性。
🔎
延伸解读
幻觉并非偶然，而是技术本质
文章指出，新加坡国立大学的研究表明，幻觉是所有大型语言模型的必然结果，无法完全解决。这意味着AI在推断和创造时出错是系统性的，而非偶然故障。开发者将其视为小麻烦，但用户需认识到这是技术固有局限，不能期待完全准确。
便利性与准确性的权衡
大型科技公司强调AI的便利性和创造性魔力，如OpenAI的Sam Altman所言，追求绝对准确会失去魔力。然而，文章作者认为，电脑本应比人类更准确，牺牲准确性换取聊天功能是不公平的交换。用户应警惕这种权衡，优先考虑关键任务的准确性。
用户需保持警惕并核查输出
文章提到，谷歌和ChatGPT等工具在界面中用灰色小字提示“检查回复的准确性”，这暗示了其不可靠性。用户不能盲目信任AI输出，尤其是在法律、医疗等关键领域，必须自行核查信息，避免因错误建议导致损失。
❓
Q&A
人工智能的幻觉问题是什么？
人工智能的幻觉问题指的是机器在推断和创造时偶尔会出错，导致生成不准确的信息或建议。
为什么人工智能的准确性问题被忽视？
许多大型科技公司认为幻觉问题是小麻烦，且对其重视程度不足，导致用户可能不够警惕。
用户如何应对人工智能的错误建议？
用户需要对人工智能的输出保持警惕，并检查其准确性，以避免受到错误建议的影响。
大型科技公司如何看待人工智能的幻觉问题？
大型科技公司普遍认为幻觉问题是小麻烦，且在推广新工具时并未强调其潜在的不准确性。
人工智能的幻觉问题是否可以解决？
目前许多研究人员认为幻觉是大型语言模型的必然结果，无法完全解决。
人工智能的快速发展对社会有什么影响？
人工智能的快速发展可能改变我们的生活方式，但其准确性问题也带来了潜在风险。
🏷️
