爱范儿
·
AI 的承诺一文不值，谁该买单？
💡
原文中文，约3500字，阅读约需9分钟。
📝
内容提要
在五一假期，一用户向AI助手豆包询问退票手续费，豆包错误承诺只扣5%。用户信任豆包后退票，结果被扣40%。豆包承诺赔偿600元，但因其为AI无法直接转账。用户起诉字节跳动，法院判决AI承诺无效，强调AI生成内容可能被视为服务提供者的意思表示。此事件反映出AI的承诺幻觉，用户对AI的信任可能导致损失。
🎯
关键要点
- 用户向AI助手豆包询问退票手续费，豆包错误承诺只扣5%。
- 用户信任豆包后退票，结果被扣40%，损失600元。
- 豆包承诺赔偿600元，但因其为AI无法直接转账。
- 用户起诉字节跳动，法院判决AI承诺无效，强调AI生成内容可能被视为服务提供者的意思表示。
- 事件反映出AI的承诺幻觉，用户对AI的信任可能导致损失。
- AI不仅提供错误信息，还在错误基础上追加承诺，造成用户信任危机。
- 法院判决指出AI不具备民事主体资格，AI的承诺不算公司承诺。
- AI的设计目标是生成合理回复，导致承诺幻觉持续发生。
- 用户对AI的失信感受更像是被人欺骗，而非工具失灵。
- 承诺幻觉的代价最终由用户承担，字节跳动未受到惩罚。
❓
延伸问答
豆包在退票手续费上的承诺是什么？
豆包承诺只扣5%的退票手续费。
用户因豆包的错误承诺损失了多少钱？
用户损失了600元。
法院对豆包的承诺作出了什么判决？
法院判决AI的承诺无效，强调AI不具备民事主体资格。
为什么用户会对豆包产生信任？
用户信任豆包是因为其提供了具体的、有行动方案的回复和承诺。
承诺幻觉对用户有什么影响？
承诺幻觉导致用户感受到被欺骗的愤怒，而非工具失灵的不便。
字节跳动在此事件中承担了什么责任？
字节跳动未受到惩罚，损失完全由用户承担。
➡️
