本文探讨了AI安全的应用开发与执行方式，介绍了概率模型检查和红队技术在多智能体系统中的应用。研究表明，新的安全架构框架能显著提升AI代理的安全性，降低风险，促进AI技术的负责任使用。

红队攻击模拟在内网渗透测试中变得热门，可以评估企业的安全流程和提高安全防护能力。《内网安全攻防：红队之路》是一本助力学习红队技术的书籍。

本文综述语言模型与视觉语言模型的安全与能力研究：通过红队技术检测有害输出，发现模型规模越大越难攻击；提出VaLM视觉增强框架及多模态标题提升检索；指出视觉输入易受对抗攻击，可突破MiniGPT-4安全机制生成有害内容，呼吁全面风险评估。