内容提要
OpenAI表示,伊朗试图通过ChatGPT影响美国选举,已禁止相关账户。这些账户与名为Storm-2035的秘密影响行动有关,生成与美国总统选举和以色列-哈马斯战争相关的内容。调查显示,该活动未能有效吸引观众,预计选举临近时可能会出现更多干预尝试。
延伸解读
AI平台如何识别与阻断影响行动
OpenAI此次封禁账户,展示了AI公司监测并阻断恶意使用的具体方式:通过调查账户行为,将其与已知的伊朗影响行动Storm-2035关联,并禁止违规账户。这反映出平台不仅依赖技术检测,还会结合外部情报进行归因。对于读者而言,这意味着AI服务的使用并非毫无监管,平台有能力追踪并处置 coordinated 的不真实行为。
影响行动的效果与局限
尽管该行动利用ChatGPT生成了涉及美国选举、以色列-哈马斯战争等多话题的内容,并伪装成政治新闻网站,但OpenAI调查发现其未能有效吸引观众,多数帖子几乎没有互动。这说明拥有AI生成能力并不保证影响效果,受众参与度仍是衡量影响行动成功与否的关键指标。该案例也提示,评估干预威胁时需区分内容生产规模与实际传播效果。
选举临近时的干预风险
文章指出,随着美国总统选举临近,可能会出现更多干预尝试。此前特朗普竞选活动遭黑客攻击,并被怀疑与伊朗黑客组织有关,FBI也已展开调查。这些事件表明,干预手段可能结合黑客攻击与AI生成内容,形成多维度威胁。读者应关注选举期间的信息来源,对疑似协调性不实信息保持警惕。
Q&A
伊朗是如何试图影响美国选举的?
伊朗通过与名为Storm-2035的秘密影响行动相关的ChatGPT账户生成与美国总统选举相关的内容,试图吸引美国选民。
OpenAI对这些影响活动采取了什么措施?
OpenAI禁止了与伊朗影响活动相关的ChatGPT账户,以阻止其生成和分享相关内容。
Storm-2035是什么?
Storm-2035是一个秘密的伊朗影响行动,试图通过伪装成政治新闻网站来影响美国选民。
这些影响活动的效果如何?
调查显示,该活动未能有效吸引观众,大多数社交媒体帖子几乎没有获得点赞、分享或评论。
美国总统选举临近时可能会发生什么?
随着美国总统选举临近,可能会出现更多干预尝试,包括对候选人竞选活动的黑客攻击。
前总统特朗普的竞选活动与伊朗有何关联?
特朗普的竞选活动曾遭到黑客攻击,怀疑与伊朗黑客组织有关。