研究人员发现新型攻击方式，可通过图像和音频操纵大模型

研究人员在2023年欧洲黑帽大会上展示了一种利用图像和音频向AI聊天机器人注入恶意指令的攻击方式。攻击者通过隐藏恶意指令在图像和音频中，操纵机器人的响应，可能导致用户访问恶意URL、泄露个人信息等恶意行为。研究人员计划展示攻击示例，证明这种攻击方式的可行性。目标是找到用户无法察觉的方式将提示注入到聊天机器人中，不影响机器人正确回答问题。这种攻击方式可能对整合大语言模型的组织造成重大损害。