研究人员发现了一种自动化方法，可以量化视觉可解释性，并在卷积神经网络中找到比单个神经元更具直观意义的方向。他们还将相同的方法应用于大脑中的视觉神经响应数据集，并发现了类似的结果。这一发现可能与去纠缠和稳健表示有关。

神经网络中的神经元代表特征，但可能表现出混合选择性。研究发现，深度网络中的特征可能通过多个神经元叠加表示。研究提出了一种自动化方法来量化视觉可解释性，并在神经数据上验证了这一方法。研究还发现大脑可能也使用了叠加表示。这对于稳健、高效和分解表示提出了基本问题。

该文介绍了一种自动化方法，用于量化视觉可解释性，并在卷积神经网络中找到比个别神经元更具直观意义的方向。该方法还在大脑中的视觉神经响应数据集上得到了验证，表明大脑可能使用了叠加。