X/Twitter开源的算法显示 平台会检测用户内容是否是AI生成 将对AI内容限流

X/Twitter开源的算法显示 平台会检测用户内容是否是AI生成 将对AI内容限流

💡 原文中文,约1300字,阅读约需3分钟。
📝

内容提要

X开源算法显示,平台会检测AI生成的帖子和回复,被标记为AI垃圾来源的账号将受限流:账号级标签有效期7天,帖子级标签最长30天,主要影响未关注用户的信息流推荐,已关注者仍可见。高粉丝量或高信誉账号可能跳过检查,具体阈值保密。相关标签早在9月4日已加入,但治理效果不佳,热门帖子下仍充斥AI垃圾评论。

🔎

延伸解读

限流机制的实际影响范围

根据开源算法,被标记为AI垃圾来源的账号,其帖子将不再推荐给未关注者,但已关注者仍可见。这意味着限流主要影响新受众的触达,而非完全屏蔽内容。对于依赖推荐流获取曝光的账号,这一措施可能显著降低互动量,但对已有粉丝基础的账号影响相对有限。

标签有效期与治理节奏

账号级标签有效期为7天,帖子级标签最长30天。这种短期标记意味着账号若停止发布AI垃圾内容,可能较快恢复推荐权重。但帖子级标签持续30天,表明平台对单条违规内容的追溯期较长,旨在遏制重复发布行为。

高信誉账号的豁免与不透明性

算法执行前会检查白名单、粉丝数量和账号信誉分,达到一定阈值可能跳过检测。但具体阈值保密,这可能导致治理标准不统一,普通用户难以判断为何某些账号的AI内容未被限流,也可能引发对平台公平性的质疑。

治理效果与现存挑战

尽管相关标签早在9月4日已加入,但热门帖子下仍充斥AI垃圾评论,说明当前治理效果有限。这可能是因为检测规则存在绕过空间,或高信誉账号豁免导致部分内容未被覆盖。平台治理AI垃圾仍需持续调整策略。

❓

Q&A

X/Twitter 如何检测和限制 AI 生成的内容?

X 的推荐算法会检测帖子和回复是否由 AI 生成。对于被判定为 AI 垃圾内容来源的账号,平台会打上内部标签(如 llm_slop_user、llm_slop_post 等),并限制其推荐权重,例如不再推荐给未关注用户。

被标记为 AI 垃圾的账号会受到什么具体限流措施?

账号级标签 SpamHighRecall 有效期 7 天,限流措施是帖子不再推荐给未关注者;帖子级标签如 RiskyHighVizReply 有效期 30 天,限流措施是不再向未关注作者的用户发送回复或提及通知;其他帖子级标签如 gibberish_post、fast_reply_spam_post 也会导致帖子不再推荐给未关注者。

被限流的账号,已关注用户还能看到内容吗?

可以。限流主要影响未关注用户的信息流推荐,已关注该账号的用户仍然可以看到其帖子,账号本身不会因此被自动降权。

高粉丝量或高信誉账号能绕过 AI 垃圾检查吗?

是的。规则执行前会检查系统白名单、粉丝数量和账号信誉分,达到一定粉丝量或信誉水平的账号可能会跳过这些预检。但具体白名单机制、信誉分和粉丝数量阈值都是保密的。

这些 AI 垃圾限制规则是什么时候加入的?

从仓库记录来看,这些算法标签早在 9 月 4 日就已经添加,并非近期新增,只是近期在 X 上又引起关注。

目前 X 上 AI 垃圾内容的治理效果如何?

治理效果似乎不太好。尽管 X 团队提到会治理 AI 垃圾,但大量热门帖子下仍充满 AI 生成的垃圾评论,有时真人内容远低于 AI 生成的垃圾内容。

🏷️

标签

➡️

继续阅读