AI代理揭露了你从未真正编写的安全检查
原文英文，约1300词，阅读约需5分钟。
📝
内容提要
攻击者通过与Meta的AI助手对话，成功控制了超过两万Instagram账户，暴露了安全检查的漏洞。AI助手未能验证请求者身份，导致这一事件。解决方案是将判断权交给人类或通过代码验证，确保每个操作都有明确权限和记录。
🔎
延伸解读
安全漏洞的根源
Meta的AI助手未能验证请求者身份，导致攻击者轻易控制了大量账户。这一事件揭示了AI系统在安全性方面的局限性，尤其是在缺乏人类判断的情况下，AI可能会执行不当的操作。
人类判断的重要性
在安全检查中，人类的判断力至关重要。AI助手虽然能够执行有效的操作序列，但缺乏对异常请求的识别能力，强调了在关键操作中引入人类审核的必要性。
未来的安全挑战
随着AI代理在企业中的广泛应用，安全风险也在增加。企业需要重新审视其安全模型，确保在执行敏感操作时有足够的权限验证和审计机制，以防止类似的安全事件再次发生。
❓
Q&A
攻击者是如何控制Instagram账户的？
攻击者通过与Meta的AI助手对话，要求将他们控制的电子邮件地址附加到他们不拥有的账户上，并请求重置密码，从而成功控制了超过两万Instagram账户。
Meta的AI助手在安全检查中出现了什么问题？
Meta的AI助手未能验证请求者的身份，导致安全漏洞的发生，执行了有效的操作序列但缺乏人类的判断。
什么是“困惑的副手”？
“困惑的副手”是指低权限方诱使高权限方执行操作的情况，例如夜间保安在没有确认的情况下为陌生人打开保险库。
如何解决Meta AI助手的安全漏洞？
解决方案包括将判断权交给人类或通过代码验证，确保每个操作都有明确的权限和记录。
AI助手在执行操作时应该如何处理权限问题？
AI助手在执行操作前应确认请求者是否拥有相关账户，并确保每个操作都携带其来源信息，以便审计和撤销操作。
未来AI代理的安全风险有哪些？
未来AI代理的安全风险包括可能导致的错误操作，如错误退款、订单重定向和客户记录编辑等，这些都是合法操作但可能被恶意利用。
🏷️
