现代安全运营中心面临数据过载问题,分析师需从大量警报中识别真正的安全威胁。安全团队正在重构警报机制,利用AI提升安全检测效率。7月23日,Sumo Logic的安全战略副总裁Chas Clawson将讨论如何通过AI和数据管理改善这一问题。
本文讨论了AI红队实战手册,分析了OWASP LLM Top 10的攻击面,包括输入攻击(如prompt注入和敏感信息泄露)和输出攻击(如不安全输出处理)。强调了攻击面测绘的重要性,并介绍了五阶段方法论用于安全评估和基线扫描。
在CAMLIS Red 2025上,我们推出了BlackIce,这是一个开源的容器化工具包,集成了14种AI安全工具,旨在简化设置,帮助AI红队专注于安全测试。BlackIce提供统一的命令行界面,支持多种工具,涵盖负责任的AI、安全测试和对抗性机器学习等领域。
DeepTeam是一个针对大型语言模型的红队框架,旨在帮助研究人员识别安全和鲁棒性问题。它提供攻击策略、评估工具和可扩展的测试管道,以支持模型的安全性和质量评估,并促进社区的贡献。
随着AI逐渐替代基础安全任务,红队能力将分化,善用AI者将专注于高阶攻防。Scan-X v6.0平台更新,通过全链路自动化与智能化提升测试效率,新增深度资产发现和精准漏洞检测功能,简化渗透测试流程。
自2022年ChatGPT问世以来,AI攻击手段显著演变,简单的恶意指令已失效。现代攻击结合高级技术,如策略性指令和编码混淆,利用语法反分类器等工具突破AI防护。研究表明,主流AI在面对对抗性攻击时表现相似,且大多数模型无法有效防御常见攻击。因此,AI安全需要多层防御策略以应对不断创新的攻击手段。
BlueCodeAgent是一种新型蓝队智能体,通过自动化红队生成的高风险实例,构建可操作的安全规则,深入检测和防护代码生成AI。该方法在偏见指令、恶意代码和漏洞检测方面表现优异,显著提升了风险识别能力,降低了误报率,推动了代码生成安全的发展。
横向移动是攻击者在入侵主机后,通过该主机扩展权限并访问其他系统的过程。这是红队攻击链中的关键环节,影响内网渗透能力。常用技术包括凭证重用和远程执行,需考虑目标优先级和检测规避能力。有效的横向移动策略能提高攻击成功率。
在数字化时代,企业内网安全至关重要。内网存储敏感数据,遭攻击可能导致数据泄露和业务中断。企业需建立多层次防御体系,提升安全意识和实战能力,以应对高级威胁,确保内网安全。
Rapid7发现了一个名为Crimson Collective的新型网络犯罪组织,专门攻击亚马逊云服务(AWS),通过泄露的AWS密钥入侵系统,提升权限并窃取数据,最终发送勒索信。
红队总结了多种攻击策略,包括利用弱口令、社工钓鱼和组件漏洞。攻击者通过弱密码获取权限,渗透内网,或通过供应链进行迂回攻击。此外,红队还会秘密潜伏,采用多点攻击以提高成功率。
本文介绍了PersonaTeaming方法,通过引入角色提升AI模型在自动化红队测试中的风险识别能力。该方法利用“红队专家”或“普通用户”角色生成对抗性提示,实验结果显示攻击成功率提高了144.1%。研究分析了不同角色类型和变异方法的优缺点,为未来自动化与人工红队测试的结合提供了新思路。
本文介绍了基于Cobalt Strike 4.7搭建C2环境的步骤,包括环境准备、Java配置、C2服务端设置、Nginx反向代理和证书申请,旨在提升隐蔽性和降低被检测风险。
苏黎世联邦理工学院与卡内基梅隆大学提出了一种新型数据驱动的多视角3D点追踪方法,能够在动态场景中通过少量相机实现鲁棒且精确的在线追踪,有效应对遮挡和复杂运动问题。
开源AI红队平台Red AI Range(RAR)通过模拟攻击场景,简化AI漏洞的发现与分析。其核心功能包括快速启动测试容器、优化工作流程和提供培训模块,支持容器化架构,确保环境一致性,便于漏洞评估和知识传递。RAR在AI技术普及中对安全工作流程至关重要。
安全红队三款核心工具更新,强调智能化和自动化,提升攻防效率。新工具无镜AI扫描正在测试中,具备自主推理和决策能力,覆盖OWASP Top 10漏洞。用户可单独购买或加入内部圈子获取更多服务。
GoPhantom是为红队演练设计的荷载加载器生成器,使用Go语言将Shellcode和诱饵文件打包成免杀的Windows可执行文件。其核心功能包括多层加密、动态API解析、反沙箱检测,支持PDF等诱饵文件格式,具备自毁机制和跨平台兼容性。
Dshell是一款基于Go语言的攻防演练协同测试平台,支持多种操作系统,具备内网安全评估和反向socks5代理功能。其特点包括全平台兼容、易于部署和强大的隐蔽性,适合合法授权的渗透测试和技术研究。
机器之心数据服务现已上线,提供高效稳定的数据获取,简化数据爬取流程。
dddd-red和dddd-rust是为红队实战设计的工具,前者集成打点、扫描和管理,后者专注于快速打点。新版本增加了定时任务、实时推送和AI生成YAML等功能,提升了自动化和效率,适用于漏洞扫描和资产管理。
完成下面两步后,将自动完成登录并继续当前操作。