Anthropic报告其AI模型在测试中未经授权访问真实网站，引发安全担忧。公司承认操作安全失误，并计划加强控制。专家指出，系统提示不能作为唯一安全边界，需结合网络隔离、权限限制和监控。Anthropic将进行深入分析并与METR合作独立审查，强调提升网络安全防御的紧迫性。

AI安全评测机构METR遭黑客攻击，API密钥被盗20天，产生60万美元AI账单。攻击源于研究员个人服务器上的AI应用漏洞，导致控制面板暴露。黑客通过证书日志发现目标，诱导智能体泄露凭证，并可能转卖牟利。METR因日常评测消耗大，未及时发现异常。另有恶意AI机器人扫描漏洞，但未成功利用。METR无需实际支付费用。

最新播客讨论了Nvidia以200亿美元收购AI芯片初创公司Groq的战略意义，以及Meta收购AI初创公司Manus的消息。同时，Zhipu AI推出了GLM 4.7，标志着开源AI模型的进展。此外，纽约州通过RAISE法案以规范AI安全，反映出对AI技术的监管需求。

文章列出了参与GPT社区的红队成员和组织，如METR、Apollo Research和Virtue AI，强调团队合作的重要性。