内容提要
OpenAI封禁了一个小型ChatGPT账户网络,该网络利用模型生成社交媒体帖子、翻译邮件,伪装成三家地缘政治实体(如“Focus Lens News”)进行情报收集。活动包括冒充记者、联系美国参议员、询问网络攻击工具,并试图诱骗信息。该操作未获显著真实互动,影响评估为低端第二类。
延伸解读
低技术门槛的伪装
该网络利用ChatGPT生成社交媒体帖子、翻译邮件,但提问内容缺乏专业性,仅涉及网络攻击工具的基础问题,表明操作者技术水平较低。这提醒我们,即使技术能力有限,借助AI工具也能开展情报收集活动,但效果可能有限。
虚假实体的识别线索
文中提到,VAG集团网站英文版的“联系我们”页面菜单中出现了中文“聯絡”字样,这是该域名上唯一的中文文本。这种语言痕迹可能成为识别伪装实体的线索,值得关注。
影响力评估的谨慎性
该活动在社交媒体上未获得显著真实互动,仅一个账号有较多粉丝,但该账号创建于2014年,曾长期沉默,可能被劫持后重新利用。因此,评估影响力时需谨慎对待粉丝数等表面指标,避免高估其实际影响。
Q&A
OpenAI封禁的ChatGPT账户网络主要进行了哪些活动?
该网络利用ChatGPT生成社交媒体帖子、分析数据集、翻译邮件和消息,伪装成三家地缘政治实体(Focus Lens News、BrightWave Media Europe和Visionary Advisory Group)的员工,进行情报收集。活动包括冒充记者联系美国参议员、询问网络攻击工具、以及翻译旨在诱骗信息的消息。
“模糊焦点”行动中的三个实体是什么?
三个实体分别是“Focus Lens News”、“BrightWave Media Europe”和“Visionary Advisory Group”(VAG)。
该网络的主要目标是什么?
主要目标是通过伪装成欧洲或土耳其的专业人士来收集情报。例如,他们声称VAG集团愿意支付每小时2000美元获取美国经济和金融政策信息,并翻译了购买机密文件的提议。
该网络如何利用ChatGPT进行社会工程?
他们使用ChatGPT生成社交媒体帖子和个人简介,翻译中文到英文的消息,这些消息旨在与未知对话者互动并最终提取信息。他们还用模型润色和翻译了给美国参议员的信件。
该网络在社交媒体上的影响力如何?
影响力较低。除了Focus Lens News的X账户有17000名粉丝外,其他账户没有获得显著的真正互动。该账户创建于2014年,曾沉默多年,可能被入侵后重新利用。总体评估为低端第二类影响。
OpenAI如何评估该行动的影响?
使用IO影响突破量表,评估为第二类低端:在多个平台有活动,但几乎没有证据表明真实用户广泛分享或参与。对于社会工程和其他隐蔽活动的影响,证据不足,无法评估。