香港最大AI诈骗案！Deepfake换脸「英国CFO」，直接骗走公司2亿港币
内容提要
近日，香港警方公布一起使用AI换脸技术的诈骗案，骗子冒充公司高管骗走2亿港币。科学家团队开发了一种新方法，可以准确检测深度伪造视频中被操纵的面部表情。警方提醒公众警惕此类诈骗行为，未来需要技术和政策努力来控制Deepfake技术的负面影响。
延伸解读
视频会议诈骗为何更具迷惑性
本案中，骗子通过视频电话会议伪造了“高管团队”，而非传统的一对一诈骗。受害员工在会议中看到多位“认识”的同事，还被要求自我介绍，这大幅提升了可信度。骗子利用公司公开的YouTube视频和媒体素材，合成高管形象与声音，让员工误以为正在参与真实内部会议。这种多人视频场景的伪造，比单一换脸更难被察觉，也提醒企业需对涉及资金转账的远程指令设置多重验证。
Deepfake技术原理与检测难点
Deepfake核心是利用自动编码器或生成对抗网络，将目标面部“嫁接”到被模仿对象上。视频由连续图片组成，逐帧替换面部即可生成假视频。自动编码器通过编码器将图像压缩到潜空间，再用针对目标的解码器重建，从而叠加目标特征。生成对抗网络则让生成器与鉴别器相互竞争，不断优化合成图像。这些技术使伪造内容越来越逼真，但也留下了可被检测的细微痕迹。
现有检测手段与识别建议
加州大学河滨分校团队开发的EMD框架，将检测分为面部表情识别和操纵定位两个分支，在实验中能以99%准确率检测被篡改视频。对普通公众，香港警方建议：视频中提及转账务必警惕；可要求对方快速移动头部和面部，观察画面是否变形；提问只有双方知道答案的问题验证身份。银行也在部署预警系统，对可疑交易发出提醒。这些方法虽非万无一失，但能增加诈骗难度。
技术之外还需政策协同
文章指出，Deepfake的负面影响仅靠技术检测难以根除，未来需要在技术和政策两个层面共同努力。白宫发言人对AI不雅照事件表示担忧，并强调社交媒体公司应严格贯彻监管制度，防止错误信息和未经允许的私密图像传播。这意味着平台、立法者和技术开发者需共同承担责任，在保护创新与防范滥用之间找到平衡，才能将Deepfake风险控制在合理范围内。
Q&A
香港最大AI诈骗案中，骗子是如何骗走2亿港币的？
骗子通过伪造的AI换脸和音频合成视频内容，冒充英国总公司CFO，通过视频会议欺骗香港分公司员工，最终员工分15次向5个香港本地账户汇款2亿港币。
Deepfake技术是什么？它是如何工作的？
Deepfake是一种基于深度学习的换脸技术，利用生成对抗网络或卷积神经网络等算法，将目标对象的面部嫁接到被模仿对象上。它通过自动编码器或生成对抗网络实现，将视频逐帧处理，替换面部后重新合成假视频。
如何识别AI换脸诈骗？
警方建议：如果对方在视频中提到钱，要提高警惕；可以要求对方快速移动头部和面部，观察画面是否出现奇怪变形；提一些只有双方知道的问题来验证身份。银行也会对可疑交易发出提醒。
目前有哪些技术可以检测Deepfake视频？
加州大学河滨分校的研究团队开发了一种名为“表达操纵检测”（EMD）的新方法，可以以99%的准确率检测深度伪造视频中被操纵的面部表情。该方法使用深度神经网络，分为两个分支：一个辨别面部表情并提供区域信息，另一个进行操纵检测和定位。
Deepfake技术最初是怎么出现的？
Deepfake最初源于2017年12月一个名为“deepfakes”的Reddit用户，该用户发布了将斯嘉丽·约翰逊等女演员的换脸视频，使得“Deepfake”成为AI换脸的代名词。
如何控制Deepfake技术的负面影响？
未来需要在技术和政策层面上都做出努力，才能将Deepfake技术的负面影响控制在合理范围内。
