内容提要
OpenAI封禁了一个源自俄罗斯的ChatGPT账号,该账号生成关于撒哈拉以南非洲地缘政治的文章和社媒内容,经Meta举报后调查。内容多赞扬俄罗斯,批评乌克兰和英美,并冒充虚构学者在非洲新闻网站发表,还伪装成非洲新闻机构的Facebook页面。该行动社媒影响甚微,但成功将部分文章植入主流媒体,影响评级约为第四类低端。
延伸解读
AI生成内容如何伪装成真人学者
该行动使用ChatGPT生成文章,并虚构了“Manuel Godsin”这一学者身份,声称其拥有挪威卑尔根大学博士学位。但OpenAI在挪威国家研究信息库和卑尔根大学图书馆均未找到任何记录,且其照片实为俄罗斯圣彼得堡一名法律系学生。这表明AI生成内容可被用于批量制造虚假专家身份,读者需对陌生作者背景保持警惕。
绕过AI检测的常见手法
为掩盖AI生成痕迹,操作者会要求模型避免使用破折号,并模仿人类记者的写作风格。例如,一篇发布在加纳新闻网站的文章中,原始生成内容里的破折号被删除,导致文本不通顺。这些手法虽简单,却可能降低平台和读者的警觉性,提示内容审核需关注文本风格异常。
低社媒影响与主流媒体渗透的对比
该行动在社交媒体上影响甚微,一个Facebook页面在被封前仅有约3000关注者,其他新页面几乎无人关注。然而,它成功将部分文章植入非洲主流新闻网站,从而获得更广泛的传播。根据IO影响突破量表,其影响评级为第四类低端,说明即使社媒声量小,主流媒体渗透仍能带来一定影响。
行动内容的主要叙事倾向
该账号生成的内容多赞扬俄罗斯,批评乌克兰、英国和美国,并涉及撒哈拉以南非洲的地缘政治议题。部分文章还针对具体对象,如指责德国莱茵金属公司利用南非子公司规避武器出口管制,或指控英国非政府组织在 South Africa 煽动抗议。这些叙事旨在塑造亲俄反西方的舆论环境。
Q&A
“无钟”行动是什么?
“无钟”行动是OpenAI封禁的一个源自俄罗斯的ChatGPT账号,该账号生成关于撒哈拉以南非洲地缘政治的文章和社媒内容,赞扬俄罗斯,批评乌克兰和英美,并冒充虚构学者在非洲新闻网站发表文章。
“无钟”行动是如何被发现的?
OpenAI根据Meta提供的线索开始调查,发现一个ChatGPT账号生成关于非洲地缘政治的长文和社媒内容,该账号可能源自俄罗斯,随后被OpenAI封禁。
“无钟”行动主要使用什么手段进行影响操作?
该行动使用ChatGPT生成关于撒哈拉以南非洲地缘政治的长文和社媒帖子,并冒充虚构学者“Manuel Godsin”在非洲新闻网站发表文章,同时运营伪装成非洲新闻机构的Facebook页面。
“无钟”行动的内容主要宣传什么?
内容主要赞扬俄罗斯,批评乌克兰、英国和美国,并涉及撒哈拉以南非洲的地缘政治议题,有时也针对特定人物如乌克兰总统泽连斯基或美国总统特朗普。
“无钟”行动的影响如何?
该行动在社交媒体上影响甚微,一个Facebook页面在被Meta删除前约有3000粉丝,其他新创建的页面几乎没有粉丝。但它成功将部分文章植入非洲主流新闻网站,影响评级约为第四类低端。
“无钟”行动如何隐藏AI生成痕迹?
该行动偶尔提示模型生成不带破折号的文本,并要求以人类记者的风格写作,以掩盖内容由AI生成的事实。