网络行动：韩语恶意软件支持
内容提要
OpenAI识别并封禁了一批与朝鲜相关的ChatGPT账户，这些账户利用模型进行恶意软件开发、凭证窃取和钓鱼攻击。活动包括Windows API钩子、浏览器数据提取、韩语钓鱼邮件及加密货币主题诱饵。OpenAI未发现模型生成恶意二进制文件，但已禁用账户并分享指标，强调模型未提供超越公开资源的新能力。
延伸解读
双重用途的灰色地带
文章指出，许多请求属于“双重用途”活动，例如软件调试、密码学或浏览器开发，这些在合法场景中很常见，但被威胁行为者利用时则具有不同意义。这提醒我们，AI模型的能力本身是中性的，关键在于使用者的意图。对于安全社区而言，识别这种灰色地带行为需要结合上下文和威胁情报，而非仅依赖单一技术指标。
归因的谨慎性
OpenAI明确表示，虽然观察到与朝鲜相关行为者重叠的指标（如韩语使用、时区、主题），但无法独立归因，并强调从朝鲜阻止访问。这反映了网络威胁归因的复杂性，尤其是在缺乏直接证据时。安全报告中的“重叠”不等于“确认”，读者应区分关联性与因果性，避免过度解读。
模型能力的局限性
OpenAI未发现模型生成恶意二进制文件，且认为模型访问未提供超越公开资源的新能力。这表明当前AI模型在恶意软件生成方面可能受限于训练数据和输出过滤，但威胁行为者仍可利用其进行辅助开发，如代码调试、脚本编写等。这提示防御者应关注AI辅助攻击的“增效”作用，而非完全依赖AI生成恶意代码。
Q&A
OpenAI 是如何处理与朝鲜相关的恶意软件支持活动的？
OpenAI 识别并封禁了一批与朝鲜相关的 ChatGPT 账户，这些账户被用于恶意软件开发、凭证窃取和钓鱼攻击。OpenAI 禁用了所有相关账户，并与合作伙伴分享了相关指标。
这些被禁用的 ChatGPT 账户主要使用什么语言，以及他们的活动有什么特点？
这些账户主要使用韩语，活动表现出结构化的工作流程，许多账户在狭窄的时间窗口内活跃。每个账户似乎专注于特定的技术领域，例如将 Chrome 扩展转换为 Safari 版本、配置 Windows Server VPN 或开发 macOS Finder 扩展。
OpenAI 观察到这些账户进行了哪些恶意活动？
观察到包括 Windows API 挂钩、浏览器凭证和 Cookie 访问（DPAPI）、仿冒验证页面（如 reCAPTCHA 克隆）、韩语钓鱼邮件（通常以加密货币为主题，伪装成政府或金融服务机构）以及尝试使用云存储服务和 GitHub 功能。
OpenAI 是否发现这些模型生成了恶意二进制文件？
没有。OpenAI 未发现证据表明 Trellix 报告中描述的恶意二进制文件是由其模型生成的。
这些账户利用模型进行了哪些类型的操作？
包括植入程序和 RAT 相关开发（如反射 DLL 加载、内存执行、Windows API 挂钩）、凭证窃取（提取浏览器加密密钥、Cookie 和保存的密码）、韩语钓鱼内容（加密货币、政府或金融机构主题）、macOS 开发（Finder 和 Safari 扩展）以及加密货币操作（API 调用和钱包交互）。
OpenAI 是否认为模型访问提供了超越公开资源的新能力？
没有。OpenAI 未发现证据表明模型访问提供了超越公开资源的新能力。
