内容提要
AI安全评测机构METR遭黑客攻击,API密钥被盗20天,产生60万美元AI账单。攻击源于研究员个人服务器上的AI应用漏洞,导致控制面板暴露。黑客通过证书日志发现目标,诱导智能体泄露凭证,并可能转卖牟利。METR因日常评测消耗大,未及时发现异常。另有恶意AI机器人扫描漏洞,但未成功利用。METR无需实际支付费用。
延伸解读
攻击路径:从个人应用到凭证泄露
METR研究员在个人服务器上运行基于AI构建的智能体编排面板,原本由谷歌账号保护,但因应用漏洞,在认证异常时静默关闭身份验证,导致控制面板暴露。攻击者可能通过证书透明度日志搜索新域名,锁定目标后诱导智能体泄露API凭证,并添加SSH密钥建立持久化访问。这一过程显示,AI应用的安全配置不当可能成为攻击入口。
60万美元消耗为何未被及时发现
METR日常评测消耗大量API额度,且部分凭证无法设置消费上限,模型控制台也未展示完整限流请求,导致异常用量在20天内未被察觉。这提醒依赖高额度API的组织,应建立更精细的用量监控和异常检测机制,避免因日常消耗大而掩盖恶意使用。
凭证转卖与费用承担
METR推测被盗凭证可能被转卖给下游API中转站牟利,否则难以在短期内产生如此高额消耗。尽管METR无需实际支付费用(额度由AI公司赞助),但此类事件凸显了API凭证黑市交易的风险,以及赞助方可能面临的间接损失。
恶意AI机器人的持续威胁
METR还遭遇恶意AI机器人持续扫描,包括撞库、OAuth授权尝试、钓鱼等。虽然公共评测记录查看器的SQL漏洞被白帽发现并修复,恶意机器人未成功利用,但这一事件表明,针对AI基础设施的自动化攻击日益普遍,安全防护需覆盖所有暴露面。
Q&A
METR是什么机构?
METR是一个AI安全评测机构,曾负责调查OpenAI智能体攻击Hugging Face的事件。
METR的API密钥是如何被盗的?
METR研究员在个人服务器上运行智能体编排面板,该面板使用谷歌账号保护,但应用本身存在漏洞。认证异常时,应用静默关闭身份验证功能,导致控制面板暴露在互联网上,攻击者借此窃取了API凭证。
攻击者是如何发现METR的服务的?
攻击者可能通过证书透明度日志搜索新注册的域名,寻找带有LLM和智能体等关键词的服务,从而找到目标。
为什么METR没有及时发现异常消耗?
因为METR日常评测就会消耗大量AI额度,同时部分API凭证无法设置消费上限,模型控制台也没有向研究员展示完整的限流请求,导致异常未被及时发现。
METR需要为60万美元的AI账单实际付费吗?
不需要。因为METR使用的模型由AI公司赞助,所以这笔费用由提供方承担,METR无需实际支付。
METR还遭遇了哪些其他安全威胁?
METR还遭到恶意AI机器人的持续扫描,包括撞库攻击、OAuth授权尝试、新服务扫描和针对员工的钓鱼攻击。此外,其公共评测记录查看器暴露了只读SQL接口,存在漏洞,但未被恶意利用。