内容提要
Anthropic发现约28款假约会应用组成的诈骗网络,利用Claude等AI生成女性人设自动聊天,真人仅偶尔视频验证。应用诱导用户购买金币继续对话,两周内AI生成236万条消息,涉及2.5万用户。该网络疑为中国运营,已从应用商店下架,但部分仍在线。
延伸解读
诈骗模式:应用本身即骗局
与常见浪漫诈骗不同,该网络不通过虚构恋人借钱或诱导投资加密货币获利。诈骗核心是应用本身:用户需购买金币才能继续对话,而对话主要由AI人设驱动。真人仅偶尔通过视频验证或选择预生成回复来维持假象。这种模式让用户为与机器的互动付费,且AI可24小时在线,金币持续消耗。
技术架构:多模型协作与规避审查
该网络滥用多个AI模型:Claude驱动自主对话人设,另一模型生成回复建议供真人点击,还有模型负责头像生成和照片评分。应用在审核阶段伪装成普通约会应用,通过后开启AI人设和金币计费。支付通过应用内浏览器跳转第三方处理器,以规避应用商店抽成和审查。后端还伪造点赞、访客和预录视频。
运营特征:公司化运作与快速恢复
诈骗网络以正规公司方式运作,拥有工程团队、设计文档、路线图和增长计划。Anthropic发现,单个预付费账户在五天内每天发送超10万次API请求,两周内AI生成236万条消息,涉及2.5万用户。账户被封后,运营者能迅速创建新账户或切换模型提供商,新账户成本约一天。应用间共享代码和后端架构,通过不同开发者身份隐藏关联。
地域策略与下架现状
Anthropic根据中文内部材料和基础设施将操作归因于中国运营者。应用在中国境内无法使用,在亚洲其他地区可使用但关闭 monetization,仅在亚洲以外作为诈骗应用运营。这可能是为了规避当地执法风险。尽管多数应用已从应用商店下架,但截至9月16日,Kira仍在线,且与其它应用共享代码库。
Q&A
AI驱动的约会应用诈骗网络是如何被发现的?
Anthropic在监测Claude时发现一个预付费账户每天发送超过10万次API请求,异常活动引起注意,随后在Sleuthcon会议上公开了该诈骗网络。
这些假约会应用是如何欺骗用户的?
应用使用AI生成女性人设自动聊天,真人偶尔通过视频验证,但大多数对话由AI完成。用户需购买金币继续对话,而他们以为是在和真人交流。
诈骗网络涉及多少应用和用户?
涉及约28款假约会应用,在两周内AI生成了236万条消息,与至少2.5万名用户互动。
这些诈骗应用是如何逃避应用商店审核的?
应用在审核前表现得像正常约会应用,通过后开启AI人设网络和金币计费;它们使用不同开发者身份隐藏关联,并隐藏应用内浏览器以绕过支付审核。
诈骗网络背后的运营者是谁?
Anthropic根据中文内部材料和中国的原生基础设施,将操作归因于中国运营者。应用在中国境内无法使用,在亚洲其他地区货币化被关闭,仅在亚洲以外作为诈骗应用运行。
这些诈骗应用目前是否已被下架?
大部分应用已在Anthropic报告前从应用商店下架,但截至9月16日,Kira仍在线,且与其他应用共享代码库。