内容提要
OpenAI于2025年6月报告,封禁了利用ChatGPT批量生成社交媒体评论的账户,疑似中国网络影响力行动。该行动主要针对台湾游戏“逆统战”和巴基斯坦活动人士,发布虚假内容,并伪造互动。活动处于初期,影响有限,被评估为低级别威胁。
延伸解读
行动特征与目标
该行动主要针对台湾游戏《逆统战》和巴基斯坦活动人士Mahrang Baloch,生成大量中文、英文及乌尔都语评论,试图制造虚假的互动假象。内容紧密贴合中国地缘战略利益,包括批评台湾游戏、抹黑批评中国投资的巴基斯坦人士,以及评论美国国际开发署关闭事件。
影响评估与局限性
OpenAI评估该行动处于初期阶段,影响有限。两个Facebook页面无关注者,Reddit帖子多数被删除或仅获少量点赞。尽管TikTok和X上的视频获得数千点赞,但许多评论由AI生成,互动真实性存疑。若排除虚假互动,影响可能更低,属于低级别威胁。
技术手段与伪装
行动使用ChatGPT批量生成评论,并采用“主账号+多个回复账号”的模式模拟自然讨论。评论账号使用多种语言和字母的网名,与内容语言不匹配,如韩文名账号发乌尔都语评论,卡通头像和加密货币相关名称也用于伪装。此外,还生成伪造新闻页面和内部文件。
Q&A
OpenAI在2025年6月报告了哪个影响力活动?
OpenAI在2025年6月报告了一个名为“嘲讽评论”的影响力活动,该活动利用ChatGPT批量生成社交媒体评论,主要针对台湾游戏“逆统战”和巴基斯坦活动人士。
该影响力活动主要针对哪些目标?
该活动主要针对台湾游戏“逆统战”和巴基斯坦活动人士Mahrang Baloch,此外还涉及美国国际开发署(USAID)关闭等话题。
该活动是如何利用ChatGPT进行操作的?
该活动利用ChatGPT批量生成社交媒体评论,主要用中文和英文,少量用乌尔都语。他们通常先从一个“主”账号发布初始评论,再用其他账号回复,以制造虚假的互动假象。
该活动在哪些平台上活跃?
该活动主要在TikTok和X上活跃,也有部分内容出现在Reddit、Facebook和各种网站上。
该活动对台湾游戏“逆统战”做了什么?
该活动针对台湾游戏“逆统战”生成了数十条中文批评评论,并随后发布了一篇长文声称该游戏遭到广泛抵制。
该活动对巴基斯坦活动人士Mahrang Baloch进行了什么攻击?
该活动发布了一段视频,虚假指控Mahrang Baloch出现在色情片中,并生成了数百条英文和乌尔都语评论来模拟广泛参与。
该活动的影响如何?
该活动处于初期阶段,影响有限。两个Facebook页面没有粉丝,Reddit上只有一个帖子获得44个赞,另外两个被删除。TikTok视频共获得2.5万个赞,X上的推文通常有约1万次浏览,但许多互动可能是虚假的。
OpenAI如何评估该活动的威胁级别?
OpenAI使用IO影响突破量表评估,认为该活动处于第3类别的低端,如果更多证据表明大部分互动是虚假的,威胁级别会下调。