爱范儿
·
苹果 AI 总结新闻闹乌龙，这比「标题党」更令人担心
内容提要
苹果AI因生成的摘要与事实严重不符而遭到BBC投诉，专家指出生成式AI仍不成熟，存在传播虚假信息的风险。
关键要点
-
苹果AI因生成的摘要与事实严重不符而遭到BBC投诉。
-
苹果AI的错误摘要称路易吉·曼吉奥内开枪自杀，与事实不符。
-
BBC要求苹果采取纠正措施，防止类似错误再次发生。
-
无国界记者组织呼吁苹果放弃生成式AI功能，认为其仍不成熟。
-
苹果AI的智能生成摘要功能于今年下半年推出，但存在传播虚假信息的风险。
-
生成式AI技术在总结文章时可能出现理解错误或断章取义的情况。
-
科技企业如谷歌和微软也在尝试使用AI进行新闻分类和摘要，但出错风险依然存在。
-
用户在享受AI便利的同时，需警惕信息的准确性。
延伸解读
生成式AI的风险
苹果AI的错误摘要事件凸显了生成式AI在信息准确性方面的风险。尽管技术在不断进步，但其理解和处理信息的能力仍然有限，容易导致误导性内容的生成。用户在依赖AI工具时，需保持警惕，核实信息的真实性。
媒体责任与AI的关系
BBC对苹果AI的投诉反映了媒体对信息准确性的高度重视。随着AI技术的应用，媒体机构需重新审视与AI的关系，确保其内容不被误解或歪曲。这也提醒科技公司在推出新技术时，需考虑其对公众信息传播的影响。
法律与伦理的空白
无国界记者组织指出，当前的法律框架未能有效监管生成式AI，导致信息生成类AI被视为低风险。这一法律真空可能使得虚假信息的传播更加猖獗，亟需立法者关注并制定相应的法律法规，以保护公众的信息安全。
延伸问答
苹果AI为什么遭到BBC投诉？
因为苹果AI生成的新闻摘要与事实严重不符，错误地称路易吉·曼吉奥内开枪自杀。
无国界记者组织对苹果AI的看法是什么？
无国界记者组织呼吁苹果放弃生成式AI功能，认为其仍不成熟，无法提供可靠信息。
苹果AI的智能生成摘要功能是什么时候推出的？
苹果AI的智能生成摘要功能于今年下半年推出。
生成式AI在总结文章时可能出现什么问题？
生成式AI可能出现理解错误或断章取义的情况。
苹果AI的错误摘要对公众有什么影响？
苹果AI的错误摘要可能传播虚假信息，导致公众误解事件真相。
其他科技公司在使用AI进行新闻摘要时面临什么风险？
其他科技公司如谷歌和微软也面临出错风险，可能导致信息误解的传播。
