多模态自动可解释性代理
原文中文,约500字,阅读约需2分钟。发表于: 。这篇论文介绍了 MAIA,一种多模态自动解释性代理。MAIA 是一个使用神经模型自动化神经模型理解任务的系统,如特征解释和故障模式发现。它通过提供一系列工具来对其他模型的子组件进行迭代实验,从而对其行为进行解释。这些工具包括人工解释性研究人员常用的工具:用于合成和编辑输入、计算最大激活样本、以及总结和描述实验结果。MAIA 提出的解释性实验将这些工具组合起来描述和解释系统行为。我们评估了...
本论文介绍了MAIA,一种多模态自动解释性代理,利用神经模型自动化神经模型理解任务,并提供实验和解释工具。评估结果显示,MAIA在计算机视觉模型中具有良好的应用潜力。