2024年，AI成为网络安全领域的关键技术，安全厂商积极探索其应用。然而，人才短缺问题加剧，预计到2027年我国网络安全人员缺口将达327万。火山引擎云安全推出“安全智能体”，旨在提高安全运营效率，缓解人力资源不足。AI大模型的应用有助于应对复杂网络攻击，推动安全技术变革。

我们提出了一种基于互联网的安全自主智能体测试框架，通过监视器审计智能体行为，实施安全边界并记录可疑行为。设计灵活的安全监视器以监控LLM智能体，并测试其识别不安全情况的能力。该框架应用于AutoGPT测试中，识别出安全测试的限制与挑战。