超越推荐：AI 辅助决策中不同 AI 角色的影响的初步研究
内容提要
多项研究综述探讨AI辅助人类决策。交互式系统按需提供建议，可提升准确性并促进学习；但人类对AI的信任程度、自身水平及AI性能感知会影响效果，过度信任或中等水平者易受损。团队决策中，AI与人类技能互补，但作用次要。研究强调需评估人机协作复杂动态，开发以人为本的算法。
延伸解读
交互式辅助系统的优势与验证
文章指出，交互式人工智能决策辅助系统通过学习人类选择来决定何时提供算法支持，从而在必要时提供准确建议。在美国刑事司法系统的前期释放审判实验中，这种系统相比固定非交互式系统显著提高了人类决策水平，并具有促进学习、保护人类决策者补充优势等优点。
用户水平与信任对辅助效果的影响
研究发现，不同水平的用户从AI建议中获益不同：低水平用户虽能受益但决策精度仍不及AI；高水平用户能辨别何时遵循建议并保持或提高性能；中等水平者最不稳定，AI建议可能帮助或伤害其表现。此外，用户对AI性能的感知也极大影响决策精度，过度信任可能导致选择不佳。
团队决策中AI的次要角色与互补性
在团队决策中，AI的发言虽有价值但作用较为次要，关于“平等的AI”的看法存在分歧。然而，当涉及风险元素和评估能力时，AI与人类在小组决策中具有互补技能。研究提出了AI-人类团队决策模型，验证了前景理论、影响动态和贝叶斯学习等社会认知构建的价值。
部署AI需评估复杂动态
文章强调，AI的预测性能与偏差如何影响人类决策存在复杂动态。高性能模型能显著提高混合环境中的表现，但有些模型削弱混合偏见，有些则加重。因此，预先评估这些动态对于部署AI具有明确的必要性，并需开发以人为本的算法以辅助决策。
Q&A
交互式AI决策辅助系统相比传统非交互式系统有什么优势？
交互式AI决策辅助系统能够通过学习人类的选择来决定何时提供算法支持，从而在必要时提供准确建议，显著提高人类决策水平。此外，它还能促进人类学习、保护人类决策者的补充优势，并促进对建议的更积极响应。
不同水平的用户在使用AI建议时表现有何差异？
较低水平的用户能从AI建议中受益，但决策水平难以达到AI的精度；高水平用户通常能辨别何时遵循AI建议，保持或提高性能；中等水平者最不稳定，AI建议可能帮助或伤害其性能。用户对AI性能的感知也显著影响决策精度。
AI在团队决策中扮演什么角色？
在团队决策中，AI与人类技能互补，但作用较为次要。AI的发言具有价值，但关于“平等的AI”的看法存在分歧。研究还提出了人工智能团队学习框架和TeamRules算法，以平衡协同成本和团队准确性。
过度信任AI辅助工具会导致什么后果？
一些参与者过于信任AI辅助工具，导致选择结果不佳。因此，适用于复杂选择的人工智能辅助工具的研究需要采用新的实验范例和计算建模方法。
AI的预测性能和偏差如何影响人类决策？
高性能的模型能显著提高人类在混合环境中的表现，但有些模型会削弱混合偏见，有些则加重混合偏见。这表明预先评估这些复杂动态对于部署人工智能具有明确的必要性。
如何开发以人为本的AI算法来辅助决策？
研究建议开发以人为本的AI算法，以辅助用户在决策任务中。这需要理解人工智能协作的复杂因素，并考虑用户对AI性能的感知、用户水平差异以及团队决策中的协同成本等因素。
