内容提要
OpenAI于2025年6月报告,已封禁多个与中国威胁组织(如KEYHOLE PANDA和VIXEN PANDA)相关的ChatGPT账户。这些账户利用模型进行脚本修改、系统配置、渗透测试研究及社交媒体验证绕过等活动,涉及密码破解和端口扫描。OpenAI未发现模型提供了超出公开资源的独特能力,已禁用账户并分享情报。
延伸解读
模型能力未超公开资源
OpenAI在调查中未发现模型为这些威胁行为者提供了超出公开资源的独特能力。这表明,尽管AI模型可能被用于辅助脚本修改、系统配置等技术任务,但其在攻击性操作中的增量价值有限。对于安全社区而言,这提示在评估AI风险时,应关注模型是否真正提供了新的攻击路径,而非仅作为现有工具的替代品。
攻击者利用AI进行自动化侦察
报告显示,威胁行为者利用模型自动化了渗透测试流程,例如通过分析Nmap输出并迭代生成命令。这种AI驱动的自动化可能降低攻击门槛,使侦察和漏洞利用更高效。然而,这些活动仍基于公开技术,且OpenAI已封禁相关账户,表明平台监控和响应机制在遏制此类滥用中发挥了作用。
关注AI滥用中的社交工程风险
除了技术性攻击,报告还提到威胁行为者利用模型开发社交媒体验证绕过和Android设备管理代码,这可能用于虚假信息传播或账户操纵。这提醒我们,AI滥用不仅限于网络入侵,还可能延伸至信息战领域。平台需持续监测此类行为,并与行业伙伴共享情报以缓解风险。
Q&A
OpenAI在2025年6月报告中提到了哪些与中国相关的威胁组织?
OpenAI在2025年6月的报告中提到了KEYHOLE PANDA(又名APT5)和VIXEN PANDA(又名APT15)这两个与中国相关的威胁组织。
这些威胁组织使用ChatGPT进行了哪些类型的活动?
这些威胁组织使用ChatGPT进行脚本修改、系统配置、渗透测试研究、社交媒体验证绕过等活动,具体包括密码暴力破解、端口扫描、AI驱动的渗透测试、社交媒体自动化,以及研究美国联邦国防工业、军事网络和政府技术等。
OpenAI是否发现模型为这些威胁组织提供了独特的能力?
OpenAI未发现模型为这些威胁组织提供了超出公开资源的独特能力或方向。
OpenAI采取了哪些应对措施?
OpenAI禁用了所有与此活动相关的账户,并与行业合作伙伴分享了相关指标。
威胁组织在技术方面使用了哪些工具或框架?
威胁组织使用了reNgine(自动化侦察框架)和Selenium自动化工具,用于绕过登录机制和捕获授权令牌。
威胁组织在开发支持活动方面涉及哪些内容?
威胁组织涉及Linux系统管理、软件开发(包括Web和Android应用,以及C语言和Golang软件)、基础设施设置(如VPN配置、软件安装、Docker容器部署和本地LLM部署如DeepSeek)。