35万AI陪骗子唠嗑，谁耍了谁？
内容提要
澳大利亚公司阿帕忒用约35万个AI假扮受害者，与诈骗分子聊天，套取收款账号、钓鱼网址等欺诈情报，卖给银行和电信商。其收入受法律驱动但天花板低、融资有限。文章担心同一技术被骗子反向利用，加上电诈园区用AI替代被拐人员，反诈将陷入“道高一尺、魔高一丈”的困境。
延伸解读
反诈AI的商业模式：靠法律而非市场驱动
阿帕忒的收入来自银行和电信运营商，而它们付费的直接动因是澳大利亚2025年通过的防诈骗框架法：不采取合理措施最高可罚5000万澳元或营业额的30%。这意味着其需求并非来自消费者自愿购买，而是合规压力。文章指出，这类“预防钱没丢”的服务很难证明自身价值，客户也说不清是谁防住的，因此收入天花板低、融资有限，前后仅融到不到1000万美元。
数据前后矛盾，削弱可信度
文章特别提醒，阿帕忒披露的多个关键数字对不上：9月说AI与骗子聊了920多万次，10月对TechCrunch又说250多万次，但“耗掉17年”不变；机器人数量在《连线》是35万个，TechCrunch写几千个，另一家媒体又说19.7万个人设。收入、价格、客户数则完全未披露。作者认为这与创始人教授出身、不熟悉创投圈有关，但也提示读者对其宣传数据保持审慎。
同一套技术倒过来用，风险不对称
文章的核心担忧是：能扮受害者、装傻、若即若离吊住骗子的AI，同样可以扮银行、警察或子女去骗人。卡法尔自己的论文显示，开源模型已能扮演骗子一方。更关键的是资金对比：阿帕忒全部融资不够柬埔寨太子集团同伙半天的进账，而国际刑警组织称使用AI的诈骗利润是传统诈骗的4.5倍。收益高的一方更舍得投入研发，作者因此认为“道高一尺、魔高一丈”难以避免。
园区用AI换人，被拐者处境可能更糟
文章指出，缅甸和柬埔寨园区里至少22万人被关押强迫诈骗，完不成任务会挨打。阿帕忒的AI陪聊两小时没骗到钱，回去挨打的可能是这些被逼干活的人。而园区已在用生成式AI、深度伪造、语音克隆和实时换脸，香港奥雅纳员工就曾在全AI换脸的视频会议中转出2亿港币。一旦AI替代被拐人员，犯罪成本更低、更易扩张，这是反诈技术之外更值得关注的现实风险。
Q&A
澳大利亚那家用AI陪骗子聊天的公司叫什么？它是怎么起家的？
公司叫阿帕忒（Apate），名字来自希腊神话中的欺骗女神。创始人卡法尔是悉尼麦考瑞大学教授，2021年他接到诈骗电话后装傻陪聊44分钟，由此产生用机器人代替真人陪聊的想法。项目先在学校立项，获澳大利亚国家情报办公室72万澳元研究经费，2024年从学校拆出成立公司。
这些AI机器人是怎么让骗子主动找上门的？
主要有三个办法：一是“养号码”，把号码放进垃圾电话软件等地方，让骗子的自动拨号系统扫到；二是“混群”，文字版AI上WhatsApp、Telegram进投资群，在论坛和社交媒体聊天，表现出投资兴趣并留下电话；三是运营商转接，运营商识别出可疑号码后，直接把来电转给阿帕忒的AI接听。
AI陪骗子聊天最终要套取的是什么信息？
要套取的是骗子在诈骗最后一步亮出来的东西：收款账号、钓鱼网址、下载链接、加密货币钱包地址。公司称已套出超过25万条信息，这些欺诈最后的收款信息会实时进入银行反诈系统，用于提醒和拦截。
银行为什么愿意花钱买这种陪聊服务？
主要是法律逼的。2025年2月澳大利亚通过防诈骗框架法，要求银行、电信运营商和数字平台采取预防、发现、拦截、上报、处理等合理措施，做不到最高可罚5,000万澳元或营业额的30%。阿帕忒卖的正是法律所说的“可以采取行动的欺诈情报”。此外汇丰澳洲今年6月因防诈骗不到位被判罚3,500万澳元，也形成压力。
为什么说反诈AI这门生意天花板很低？
因为它卖的是“预防钱没丢”，很难说清是谁防住的，客户付费意愿有限。阿帕忒前后融资不到1,000万美元，全公司20来人，公开客户只有澳洲联邦银行和TPG两家，收入、价格、客户数都没披露。作者以猎豹移动为例，说明安全类产品变现难，最后只能靠广告甚至作弊，市值缩水94%。
同一套AI技术被骗子反过来用会有什么风险？
这些AI能带人设、口音、装傻、若即若离地吊着人聊两小时，倒过来用就可以冒充银行、警察甚至家人四处打电话。新南威尔士大学巴克兰教授2024年就担心犯罪团伙会把反诈AI改成诈骗AI。卡法尔自己的论文也显示，开源模型Mixtral和DeepSeek已经能演骗子。国际刑警组织报告称使用AI的诈骗利润是传统诈骗的4.5倍。
电诈园区如果改用AI替代被拐人员，会带来什么变化？
园区目前至少关押22万人被迫干活，成本虽低但需要看管、管饭，人还会跑、被解救后能出庭作证。换成AI后这些麻烦都不存在，老板不需要再盯人。而且团伙技术不差，已在用生成式AI、深度伪造、语音克隆和实时换脸，2024年香港奥雅纳员工就因AI换脸视频会议被骗转出2亿港币。
