本文探讨了未来高级人工智能的“物性X”特征，认为其与代理行为和长期规划相关。当前AI系统在这方面能力较低，但未来可能出现高能力系统，带来安全隐患。建议通过设计来最小化“物性X”，并提出治理措施以限制其发展。

一封公开信呼吁暂停训练高级人工智能（AI）至少六个月，因为AI可能对社会和文明构成潜在风险。已有1000多名科技界和AI领域的重量级人物签署了这封公开信。公开信呼吁AI研究和开发更关注准确性、安全性、可解释性、透明度、鲁棒性、可靠性和忠诚度。同时，AI开发人员需要与决策者合作，推进强有力的AI治理系统的发展。