AI系统的决策过程难以监督，理解其内部推理至关重要。研究表明，监控推理链比仅监控模型行为更有效。OpenAI研究者提出了一种评估推理链可监控性的框架，并设计了多种评估方法，结果显示推理链越长，模型可监控性越高，后续提问可进一步提升可监控性。这些发现对AI系统的安全部署具有重要意义。

当前人工智能系统缺乏可分解性和可解释性，软件开发者应关注可测试组件。大型语言模型（LLMs）在产品中存在问题，无法有效分离操作与训练数据，导致安全和法律风险。开发者应设计可持续平台，以确保人工智能的可解释性和可监控性。