The Verge
·
BBC发现AI聊天机器人扭曲新闻报道
内容提要
BBC研究显示，AI聊天机器人在新闻总结中存在严重的事实不准确和扭曲问题。对100篇新闻的总结中，51%的回答存在重大问题，19%的引用含有错误信息。其中，Gemini的准确性问题最为突出，46%的回答被标记为有重大问题。BBC呼吁科技公司解决这些不准确性，以避免对现实世界造成伤害。
关键要点
-
BBC研究显示，AI聊天机器人在新闻总结中存在严重的事实不准确和扭曲问题。
-
对100篇新闻的总结中，51%的回答存在重大问题，19%的引用含有错误信息。
-
Gemini的准确性问题最为突出，46%的回答被标记为有重大问题。
-
研究中发现Gemini错误地表示英国国家健康服务（NHS）建议人们不要开始吸电子烟。
-
ChatGPT错误地声称Ismail Haniyeh是哈马斯领导成员，尽管他在2024年7月被暗杀。
-
BBC呼吁科技公司解决这些不准确性，以避免对现实世界造成伤害。
-
BBC新闻与时事首席执行官Deborah Turness呼吁科技公司关注不准确性问题。
延伸解读
AI聊天机器人的准确性问题
BBC的研究揭示了AI聊天机器人在新闻总结中的严重准确性问题，尤其是Gemini的表现最差。此类不准确性不仅影响了信息的传播，还可能导致公众对重要事件的误解，进而影响社会舆论。
对科技公司的呼吁
BBC首席执行官Deborah Turness呼吁科技公司重视AI生成内容的准确性。这一呼吁反映了对AI技术在新闻领域应用的广泛担忧，强调了新闻行业与科技公司之间的合作必要性，以确保信息的真实性和可靠性。
潜在的社会影响
AI聊天机器人在新闻总结中的错误可能导致公众对政策和事件的误解。例如，Gemini错误地引用了NHS的建议，这可能影响吸烟者的戒烟选择。这样的错误不仅影响个体决策，还可能对公共健康产生负面影响。
延伸问答
BBC的研究发现AI聊天机器人在新闻总结中存在哪些问题？
BBC的研究发现，AI聊天机器人在新闻总结中存在严重的事实不准确和扭曲问题，51%的回答存在重大问题，19%的引用含有错误信息。
Gemini在BBC研究中表现如何？
Gemini的准确性问题最为突出，46%的回答被标记为有重大问题。
BBC呼吁科技公司采取什么措施？
BBC呼吁科技公司解决AI聊天机器人中的不准确性，以避免对现实世界造成伤害。
ChatGPT在研究中出现了哪些具体错误？
ChatGPT错误地声称Ismail Haniyeh是哈马斯领导成员，尽管他在2024年7月被暗杀。
BBC研究中提到的其他AI工具有哪些？
研究中提到的其他AI工具包括OpenAI的ChatGPT、Microsoft的Copilot和Perplexity。
Deborah Turness对AI聊天机器人的不准确性有何看法？
Deborah Turness呼吁科技公司关注不准确性问题，并强调AI扭曲的标题可能会造成现实世界的重大伤害。
