内容提要
OpenAI根据Meta的线索,封禁了与中国来源影响力行动相关的ChatGPT账号。该行动利用AI生成支持或批评关税的两极化内容,并制作虚假人物形象,如“退伍军人正义”标志,同时尝试提取社交媒体用户数据。其活动被评估为影响有限,未获得显著真实互动。
延伸解读
行动特点:双向挑动而非单一立场
该行动并非只支持或反对某一政策,而是在同一会话中同时生成支持与批评关税的内容,并制作“退伍军人正义”等虚构人物形象。这种双向输出符合已知影响力行动的手法,目的更可能是利用美国国内政治分歧制造对立,而非推广特定意识形态。
技术滥用:从内容生成到数据收集
除了生成文本和图像,该网络还频繁请求代码和方法,试图通过Tweepy、Nitter及Bluesky公开API提取用户资料、关注者列表等数据,并利用模型分析个人特征和组织关联。这表明影响力行动可能将AI用于更广泛的情报收集,而不仅是内容传播。
实际影响有限:互动率低
OpenAI评估该行动为“第2类”,即多平台活动但未突破或仅有极少互动。多数X帖子几乎没有点赞或转发,部分账号虽有数千关注者,但真实性无法确认,且关注数未转化为实际互动。这提示,即使内容生成看似逼真,缺乏真实受众参与仍会限制其影响力。
Q&A
OpenAI为什么封禁了与中国来源影响力行动相关的ChatGPT账号?
OpenAI根据Meta提供的线索,封禁了这些账号,因为它们参与了生成两极分化内容、制作虚假人物形象以及尝试提取社交媒体用户数据等影响力活动。
这个影响力行动主要使用了OpenAI的哪些功能?
该行动主要使用了文本生成功能来生成支持或批评关税的社交媒体评论,使用图像生成功能来制作风格化的标志和虚假人物形象,并利用模型获取代码和方法来提取社交媒体用户数据。
该行动在社交媒体上发布了什么类型的内容?
该行动发布了支持或批评关税的两极化内容,并制作了虚假的美国退伍军人形象,如“退伍军人正义”标志,以批评现任美国政府。
该行动如何尝试提取社交媒体用户数据?
该行动使用Tweepy、Nitter和Bluesky的公共API等工具,请求代码和方法来提取用户资料、关注者列表等数据,并利用模型分析个人特征和组织关联。
为什么这个行动被称为“垃圾邮件大叔”?
因为该行动产生了大量两极分化的内容,并专注于美国政治信息,OpenAI将其命名为“Uncle Spam”(垃圾邮件大叔),以反映其垃圾信息性质。
该影响力行动的实际影响如何?
根据OpenAI的评估,该行动的影响有限,属于Category 2,即多平台活动但未突破或仅有极少互动。大多数帖子几乎没有获得点赞或转发,尽管一些账号有数千关注者,但关注者真实性无法确认,且未转化为互动。