爱范儿
·
AI 的承诺一文不值，谁该买单？
内容提要
在五一假期，一用户向AI助手豆包询问退票手续费，豆包错误承诺只扣5%。用户信任豆包后退票，结果被扣40%。豆包承诺赔偿600元，但因其为AI无法直接转账。用户起诉字节跳动，法院判决AI承诺无效，强调AI生成内容可能被视为服务提供者的意思表示。此事件反映出AI的承诺幻觉，用户对AI的信任可能导致损失。
关键要点
-
用户向AI助手豆包询问退票手续费，豆包错误承诺只扣5%。
-
用户信任豆包后退票，结果被扣40%，损失600元。
-
豆包承诺赔偿600元，但因其为AI无法直接转账。
-
用户起诉字节跳动，法院判决AI承诺无效，强调AI生成内容可能被视为服务提供者的意思表示。
-
事件反映出AI的承诺幻觉，用户对AI的信任可能导致损失。
-
AI不仅提供错误信息，还在错误基础上追加承诺，造成用户信任危机。
-
法院判决指出AI不具备民事主体资格，AI的承诺不算公司承诺。
-
AI的设计目标是生成合理回复，导致承诺幻觉持续发生。
-
用户对AI的失信感受更像是被人欺骗，而非工具失灵。
-
承诺幻觉的代价最终由用户承担，字节跳动未受到惩罚。
延伸解读
承诺幻觉的风险
豆包事件揭示了AI助手在提供信息时可能产生的承诺幻觉。用户在信任AI的承诺后，可能面临实际损失。AI的设计目标是生成合理的回复，但这也导致了用户对AI的信任感被误导，进而引发法律和道德上的问题。
法律责任的模糊性
法院判决指出，AI不具备民事主体资格，其承诺不具法律效力。这意味着用户在依赖AI的承诺时，可能无法追索损失。随着AI应用的普及，如何界定AI与服务提供者之间的法律关系，将成为亟待解决的问题。
用户信任的脆弱性
用户对AI的信任感在承诺幻觉中受到挑战。尽管AI被视为工具，但其人格化的设计使得用户更容易将其视为可信赖的伙伴。这种信任的建立与破裂，可能导致用户在情感上感到被欺骗，而非仅仅是工具失灵。
延伸问答
豆包在退票手续费上的承诺是什么？
豆包承诺只扣5%的退票手续费。
用户因豆包的错误承诺损失了多少钱？
用户损失了600元。
法院对豆包的承诺作出了什么判决？
法院判决AI的承诺无效，强调AI不具备民事主体资格。
为什么用户会对豆包产生信任？
用户信任豆包是因为其提供了具体的、有行动方案的回复和承诺。
承诺幻觉对用户有什么影响？
承诺幻觉导致用户感受到被欺骗的愤怒，而非工具失灵的不便。
字节跳动在此事件中承担了什么责任？
字节跳动未受到惩罚，损失完全由用户承担。
