本研究提出了CtrlRAG，一种新型的对抗攻击方法，针对检索增强生成系统。该方法通过掩蔽语言模型动态优化恶意内容，实验结果表明其在情感操控和幻觉增强方面优于三种基线方法。同时，现有防御机制对CtrlRAG的有效性有限，强调了加强防御的必要性。

社交工程攻击利用人类情感弱点，AI的出现使其规模化。案例包括伪造音频、视频会议诈骗、赎金电话、虚假聊天机器人和深度伪造视频。组织应通过员工教育提高警惕，识别情感操控并建立防御措施。