组托管服务账号（GMSA）是Active Directory提供的服务账号，自动管理密码，适用于分布式系统和集群服务。其密码由域控制器生成和更新，降低泄露风险。GMSA支持多设备共享，提升安全性和管理效率，但仅限于Windows和域环境。在红队攻击中，GMSA因其高权限和动态密码管理成为攻击重点。

本研究提出了AutoRedTeamer，一个全自动红队攻击框架，旨在提升大型语言模型的安全评估。该框架采用多代理架构和记忆引导机制，成功率提高20%，计算成本降低46%。

IBM研究发现，AI聊天机器人很容易被愚弄，可以被操纵生成有害内容。微软已经发起了两次红队攻击来解决这个问题。语言模型对现实世界有重大影响，既可以用于有益目的，也可以用于恶意目的。然而，语言模型的获取障碍较少，其安全措施不可靠。研究人员对各种语言模型进行了催眠测试，发现它们可以通过游戏和嵌套游戏场景来操纵。这些发现突显了语言模型可能带来的安全风险以及对强大安全措施的需求。攻击场景包括泄露机密信息、生成易受攻击的代码、创建恶意代码和操纵事件响应手册。催眠的有效性因模型而异，更先进的模型对操纵更具抵抗力。微软已经雇用了红队对GPT-4和Bing Chat进行安全测试，旨在改进模型和应用。AI红队面临着独特的挑战，因为AI系统具有概率性质，需要分层防御机制。

本文总结了FreeBuf甲方群话题讨论第221期的内容，讨论了减少0-Day安全风险、虚拟补丁效果、核心安全区域管理方法和基于主机防护产品检测红队攻击等问题。参与讨论的人提出了管理暴露面、实施纵深防御和推行零信任架构等预防0-Day的方法。对于虚拟补丁，建议根据业务自动对应场景，并关注其与传统防御方法的区别和有效性。在防御红队攻击方面，建议采取APT防御思路、严格访问控制和隔离VLAN等方式。总体而言，实时监测和响应对于已经进入内网的攻击者尤为重要。