Humanix是一家专注于以人为中心的网络安全公司，致力于防范社会工程攻击。其创新技术利用对话式AI实时检测和响应，识别语音、视频和邮件中的操控行为，保护企业免受针对员工的攻击。Humanix的核心理念是将安全防护从系统层面扩展到人类行为层面，填补传统防御的盲区。

微软报告指出，网络犯罪分子和国家黑客利用Microsoft Teams进行侦察、租户劫持和社会工程攻击，最终实施数据勒索。攻击者通过伪装和恶意工具维持长期访问，严重威胁企业安全。

网络安全格局因威胁组织武器化人工智能而发生变化。攻击者将生成式AI融入攻击流程，使复杂攻击更易执行。朝鲜关联的FAMOUS CHOLLIMA组织在过去一年渗透320家公司，年增长220%。SCATTERED SPIDER组织利用AI进行社会工程攻击，实现快速持久访问。

网络安全研究人员发现攻击者利用Windows的'运行'提示框传播DeerStealer恶意软件，窃取加密货币钱包和个人数据。该攻击结合社会工程和高级恶意软件技术，诱骗用户执行恶意命令，展现出复杂的攻击手法。

网络犯罪分子利用社会工程和AI技术提升钓鱼攻击的真实感和针对性，通过伪造邮件、深度伪造视频和语音诱骗用户点击恶意链接或输入个人信息，并使用二维码和图像绕过安全过滤器以提高攻击成功率。

美国风险投资公司Insight Partners报告其内部信息系统遭到未经授权访问，攻击者利用社会工程技术入侵。公司迅速采取措施进行调查，未对日常运营造成影响，调查预计持续数周，目前未发现重大影响证据。

趋势科技研究显示，攻击者通过YouTube评论和谷歌搜索传播恶意软件下载链接，主要针对热门频道。这些频道提供破解软件，链接中隐藏信息窃取木马（如Lumma Stealer），窃取敏感数据。攻击者利用合法文件托管服务增加检测难度，并采用社会工程策略继续进行攻击。

攻击者利用微软Teams进行社会工程，诱导受害者下载AnyDesk以远程访问系统，并传播DarkGate恶意软件。安全专家建议启用多因素身份验证和审核第三方支持以防范此类攻击。

社会工程学通过操控人类信任和恐惧来获取信息，常见攻击有网络钓鱼、鱼叉式钓鱼等。防护措施包括保持警惕、教育培训、验证信息、使用双因素认证等。

OpenAI 和 Google DeepMind 员工联名发表公开信，呼吁重视人工智能技术带来的严重风险，包括导致人类灭绝的风险。

本文介绍了大语言模型（LLM）中的提示词注入攻击，包括直接和间接注入。攻击者通过操纵输入来控制LLM执行恶意操作，可能导致数据泄露和社会工程等问题。文章提供了防御措施，如权限控制和信任边界的建立。案例包括黑客写入提示词、用户使用注入的网页和上传注入的简历。

近年来发生了几起引人注目的社会工程攻击案例，包括2015年黑客入侵美国中央情报局局长和联邦调查局副局长的个人账户，2020年推特账户被黑事件，以及2022年Sky Mavis抢劫案。为了防范社会工程攻击，需要注意验证发件人身份、警惕不明来源的信息、谨慎下载软件、使用强密码、实施严格的访问控制等防范措施。

近期，电视剧《狂飙》的爆火，激发了UP主的二创激情，深度造假技术可用于社会工程、欺诈、威胁等网络犯罪行为，大众可以通过验证自己收到的音视频来源来检测深度造假。检测深度造假可以采用ML模型或AI技术。