神经网络是现代AI系统的核心，但理解其工作原理较为困难。可解释性方法帮助我们理解模型输出的原因。机械可解释性通过逆向工程模型计算，尽管复杂，但能提供更全面的解释。通过训练稀疏模型，我们发现可以简化模型内部计算，使其更易于理解。未来，我们希望扩展这些技术，以更好地解释大型模型的行为。