/cdn.vox-cdn.com/uploads/chorus_asset/file/25255284/HT054_AI_writing_2.jpg)
The Verge
·
我们必须正视AI的幻觉问题
💡
原文英文，约1100词，阅读约需4分钟。
📝
内容提要
谷歌、OpenAI和微软等科技巨头在加大人工智能（AI）投资和研发力度。然而，AI系统准确性问题引发担忧，容易出现“幻觉”，创造错误的新现实。AI研究人员认为这是无法解决的小问题，但对于即将改变生活的工具来说，这是不可忽视的。人们寄望于AI提供准确信息和帮助。
🎯
关键要点
- 谷歌、OpenAI和微软等科技巨头正在加大人工智能的投资和研发。
- AI系统的准确性问题引发了人们的担忧，容易出现“幻觉”，创造错误的新现实。
- AI研究人员认为幻觉是无法解决的小问题，但对于即将改变生活的工具来说，这是不可忽视的。
- Meta AI和其他AI系统在处理细节时常常出现错误，影响用户体验。
- AI的“幻觉”现象是因为机器在发现信息模式时，偶尔会错误地推断和创造新现实。
- 许多AI研究人员认为幻觉是大型语言模型的不可避免结果，无法完全解决。
- 主要科技公司在展示AI工具时，通常会提醒用户检查信息的准确性，但并不认为这是一个严重问题。
- OpenAI的CEO认为对AI准确性问题的担忧是天真的，强调AI的“魔力”在于其创造性。
- 尽管AI技术发展迅速，但用户仍然希望AI能够提供准确的信息，而不是依赖于不准确的“魔法”。
➡️
