与其限制AI和算法，不如让它们更具可解释性
内容提要
人们对软件决策如何影响我们的生活越来越担忧。限制算法和人工智能的使用不是正确的目标，而是要求软件决策可解释。社交媒体公司应该向用户展示帖子出现在其动态中的原因。AI工具作为了解决策过程的工具可能更有用。
延伸解读
可解释性：比限制算法更根本的监管原则
文章指出，限制算法或AI的使用并非正确目标，因为即使没有AI，软件决策也可能导致不良后果。例如，反向时间顺序的信息流本身也是一种算法。因此，监管应聚焦于要求软件决策可解释，而非简单禁止某种技术。这一原则能帮助用户理解决策原因，质疑错误，并调整未来行为。
不透明决策的代价：从Avis租车案例看客户流失
作者以Avis租车经历为例：还车后被收取超过租金150%的异地还车费，申诉被拒且客服无法解释原因。这种不透明不仅导致客户不满，还使Avis失去了作者未来的业务。文章强调，不透明决策可能让企业无法及时发现并纠正错误，最终付出更高成本。
AI可解释性的局限与限制使用的理由
当前AI工具难以像传统软件那样通过检查源代码和数据来解释决策。文章认为，在可解释性得到改善之前，限制AI的使用是合理的，这也能激励开发更可解释的AI。但并非所有软件决策都需要详细解释，可解释性应作为解决争议时的重要原则，例如当朋友持续看到不同价格时。
AI作为理解决策过程的工具：从围棋到遗留系统
文章提出，不透明但有效的AI模型最佳用途是作为理解决策过程的工具，甚至可能用更明确的逻辑替代它。例如，围棋专家通过研究计算机走法来提升对棋局的理解和自身策略。类似思路可用于理解复杂的遗留系统。AI可能带来更不透明的决策，但正确激励下，它也能成为提升人类知识的垫脚石。
Q&A
为什么人们对软件决策感到担忧？
人们担忧软件决策影响生活，尤其是在社交媒体和商业决策中可能导致不良后果。
限制算法和人工智能的使用是否是解决问题的正确方法？
限制算法和人工智能的使用不是正确目标，软件决策必须可解释。
可解释性在软件决策中有多重要？
可解释性非常重要，因为用户需要理解影响他们生活的决策背后的原因，以便质疑和改善未来的结果。
社交媒体公司应该如何处理用户动态中的帖子？
社交媒体公司应向用户展示帖子出现在动态中的原因，而不是简单禁止AI驱动的算法。
当前AI工具在解释决策方面存在哪些局限性？
当前的AI工具在解释决策方面存在局限性，可能需要限制其使用，直到可解释性得到改善。
人类决策者在使用AI建议时应注意什么？
人类决策者必须能够解释自己的推理，而不是简单地遵循计算机的建议。
