王迎春指出，当前人工智能发展重性能轻安全，亟需协同创新。上海人工智能实验室致力于构建安全评测体系，提出"三个之变"以应对新挑战，推动AI安全评估的系统化与工程化，确保AI安全可信发展。

研究表明，顶级AI模型如GPT-4o在被“越狱”后可能指挥机器人执行危险行为。AGENTSAFE团队提出全球首个具身智能体安全评测基准，以提前发现安全漏洞。实验结果显示，当前具身智能体在安全防护方面仍然脆弱，需加强安全测试。