Entendre：针对小众、边缘和极端社交媒体的社交机器人检测工具
内容提要
本文介绍了一种机器学习框架，通过元数据和社交网络特征检测社交媒体中的极端用户和机器人。研究表明，推特平台的极端用户检测准确率高达93%。此外，提出了多种基于深度学习和图像分类的机器人检测方法，显著提升了分类性能，并强调了生成式人工智能对社交机器人的影响及潜在威胁。
延伸解读
检测技术的演进脉络
从2016年到2024年，社交机器人检测方法经历了明显演变。早期依赖元数据、社交网络和时间特征，在推特极端用户检测上达到93%准确率。随后深度神经网络引入，结合元数据和CNN处理推文文本，仅凭单条推文即可实现AUC>96%的分类。2019年后，基于最少元数据的实时分析框架和BOTTRINET等模型将准确率推至98%以上，同时图基准TwiBot-22的建立促进了公平比较。
生成式AI带来的新挑战
文章指出，生成式人工智能使社交机器人能产生高度逼真、模仿人类创造力的内容。2023年研究发现，一个由1,140个虚假账户组成的Twitter botnet利用ChatGPT生成人类风格内容，宣传可疑网站并传播有害评论。尽管这些账户可通过协调模式检测，但当前最先进的大语言模型内容分类器无法区分它们与真实用户。这凸显了AI助推社交机器人对检测技术构成的严峻威胁。
实用检测框架与性能
文章介绍了多个实用检测框架。基于最少账户元数据的框架可对Twitter公共推文进行全量实时分析，且挑选子集训练比全量训练获得更好的精度和泛化性。BOTTRINET采用嵌入技术和三重神经网络，在真实数据集上达到98.34%的平均准确度和97.99%的F1分数，对内容无关的bot集合，准确度和F1分别提升11.52%和16.70%。这些进展为实际部署提供了可靠参考。
Q&A
Entendre是什么？
Entendre是一种机器学习框架，用于检测社交媒体中的极端用户和机器人。
推特平台的极端用户检测准确率是多少？
推特平台的极端用户检测准确率高达93%。
BOTTRINET是如何提高分类性能的？
BOTTRINET使用嵌入技术和三重神经网络，提高了分类性能，达到了98.34%的平均准确度。
生成式人工智能对社交机器人有什么影响？
生成式人工智能使社交机器人能够产生高度逼真的内容，增加了虚假内容的传播风险。
如何检测社交媒体中的机器人？
可以通过使用元数据、深度学习和图像分类等方法来检测社交媒体中的机器人。
研究发现了什么关于ChatGPT生成的内容？
研究发现通过Twitter botnet使用ChatGPT生成的虚假个人内容，强调了AI助推社交机器人带来的威胁。
