量子位
·
人类秒懂，AI崩溃：一个简单测试，就让GPT-5、Gemini等顶级模型集体“翻车”
💡
原文中文，约1300字，阅读约需3分钟。
📝
内容提要
研究表明，顶级AI模型如GPT-5和Gemini在处理“看得见但读不懂”的文字时表现不佳，缺乏符号分割与组合机制导致其无法理解人类易懂的文本。这一现象凸显了AI在教育和无障碍应用中的挑战，需重新审视视觉与文本的整合方式。
🎯
关键要点
- 研究表明，顶级AI模型如GPT-5和Gemini在处理“看得见但读不懂”的文字时表现不佳。
- AI缺乏符号分割与组合机制，导致无法理解人类易懂的文本。
- VYU团队设计了两个实验，测试AI对文字结构的理解能力。
- 人类能轻松理解经过切割和重组的文字，而AI却几乎全错。
- AI模型将文字视为“图片模式”来识别，缺乏对文字结构的理解。
- 这一现象对AI在教育和无障碍应用中的挑战具有重要意义。
- AI在处理非标准文本时可能无法正确识别，影响历史文献和科学笔记的整理。
- VYU团队建议重新思考视觉与文本的整合方式，以提高AI的韧性。
- 人类的阅读理解依赖多重感知与推理的综合能力，而不仅仅是单一模态的过程。
❓
延伸问答
为什么顶级AI模型在处理某些文字时表现不佳？
顶级AI模型如GPT-5和Gemini在处理文字时表现不佳，主要是因为它们缺乏符号分割与组合机制，只能依赖模式匹配，无法理解文字结构。
VYU团队的实验是如何设计的？
VYU团队设计了两个实验：一个是将四字成语的汉字切割并重组，另一个是将八字母英文单词的前后两半用不同颜色叠加。
人类与AI在理解文字结构上有什么区别？
人类依赖结构先验理解文字，而AI将文字视为图片模式，缺乏对文字结构的理解能力。
这一现象对AI在教育领域的影响是什么？
这一现象表明AI在教育和无障碍应用中可能无法正确识别非标准文本，影响其实际应用效果。
如何提高AI对文字的理解能力？
VYU团队建议重新思考视觉与文本的整合方式，可能需要新的训练数据和更注重分割的结构先验。
AI在处理非标准文本时可能面临哪些风险？
AI在处理非标准文本时可能无法正确识别，导致在历史文献和科学笔记整理中出现错误，甚至可能被攻击者利用。
➡️
