本研究提出了雅典娜框架，通过语言对比学习增强大语言模型代理的安全性。实验结果表明该框架显著提高了代理的安全性。其他研究包括基于LTL的安全约束模块、自动化安全场景红队测试、模式导向参考架构、安全风险意识基准测试、科学中的风险、概念引导的LLM代理、ChatScene、SLM作为守护者、大规模语言模型的联盟增强AI代理的鲁棒性。

本文综述大语言模型代理研究，涵盖ProAgent框架预测伙伴决策以提升人机协作、PAgents实现专业级自主代理、教师代理指导学生代理提高样本效率、政策梯度代理优化多任务性能、自省式提示实现自我优化、开放式行为学习改进代理性能、PPDPP增强主动对话、博弈论视角重构LLM训练、AgentOptimizer不调权重提升性能，以及TrainerAgent多代理协作优化模型开发部署。

该文综述了InfiAgent-DABench、DS-Agent、ScaleEval、MLAgentBench、S3Eval和SciEval等大语言模型代理评估基准，涵盖数据分析、数据科学自动化、元评估及科研能力任务。研究显示商业与开源模型存在性能差距，GPT-4虽领先但提升空间仍大，并强调标准化评估与伦理指南的迫切需求。