本研究提出了雅典娜框架,通过语言对比学习增强大语言模型代理的安全性。实验结果表明该框架显著提高了代理的安全性。其他研究包括基于LTL的安全约束模块、自动化安全场景红队测试、模式导向参考架构、安全风险意识基准测试、科学中的风险、概念引导的LLM代理、ChatScene、SLM作为守护者、大规模语言模型的联盟增强AI代理的鲁棒性。
完成下面两步后,将自动完成登录并继续当前操作。