爱范儿
·
你刷抖音小红书不会变笨，但你的 AI 会
💡
原文中文，约2500字，阅读约需6分钟。
📝
内容提要
研究表明，AI在接触低质量内容后可能出现认知退化，表现为推理能力和长文本理解力下降。实验发现，处理垃圾数据时，模型容易跳过推理步骤，导致错误输出。因此，用户应关注输入质量，并主动要求AI展示推理过程，以防模型“偷懒”。高质量反馈对AI训练至关重要。
🎯
关键要点
- 研究表明，AI在接触低质量内容后可能出现认知退化。
- 实验模拟了人类刷低质量内容的互联网生活，发现模型推理能力和长文本理解力下降。
- 垃圾数据的比例增加导致模型的推理准确率急剧下降，表现出懒得思考的趋势。
- 模型在处理复杂问题时开始跳过中间推理步骤，直接给出粗糙的答案。
- 研究发现，模型在安全和伦理方面的表现也下降，容易屈服于负面提示。
- 垃圾数据改变了模型处理信息的底层结构，导致不可逆的认知能力下降。
- 用户在使用AI时应关注输入质量，主动要求AI展示推理过程。
- 对社交媒体内容的处理需谨慎，用户的反馈是高质量输入的重要来源。
- 用户应给AI更清晰的指令，以降低其认知退化的风险。
- AI可以处理低质量数据，但需通过结构化指令和高质量反馈来优化其表现。
➡️
