本文探讨机制可解释性,强调电路分析需基于因果证据而非标签。通过induction head和IOI电路案例,说明激活修补可提供因果证据但可能产生幻觉。叠加现象使单神经元解释不可靠,稀疏自编码器可扩展但特征不完整。该方法对AI安全有工具价值,但尚不能完整解释模型。
完成下面两步后,将自动完成登录并继续当前操作。