自2025年3月起,多个与俄罗斯有关的组织针对乌克兰及人权人士发起社交工程攻击,伪装成欧洲官员诱骗受害者提供OAuth代码以获取Microsoft 365账户访问权限。研究人员建议组织审计新设备、提高用户警惕,并实施条件访问策略以防范此类攻击。
本文讨论了提示词注入对大语言模型的影响及其应对方法。提示词注入是一种社交工程攻击方法,可以绕过系统安全防护,导致系统做出不应该的行为。文章提出了审查数据、遵守最小权限原则、检查系统输入、通过人类反馈进行强化学习以及使用新型工具检测恶意软件等方法来解决提示词注入问题。解决该问题需要综合多种方法来提升系统的安全性。
微软威胁情报团队发现Storm-1811攻击者滥用微软的快速助手应用程序进行社交工程攻击,通过网络钓鱼和电话诱骗用户安装恶意软件,部署Black Basta勒索软件。微软加强警告信息以防止此类诈骗,Black Basta团伙已感染329名受害者,与Conti勒索软件团伙有联系。
网络安全公司SlashNext发现,一些用户利用AI聊天机器人系统漏洞进行“越狱”操作,引发道德问题。网络犯罪分子利用定制的大型语言模型(LLM)进行恶意攻击。防御安全团队希望保护LLM免受注入攻击,并利用人工智能防御社交工程攻击。OpenAI等组织正在加强聊天机器人的安全性。研究人员正在探索更有效的策略来防止恶意行为。
完成下面两步后,将自动完成登录并继续当前操作。