序贯决策中的人类建模：通过人类感知人工智能之镜透析
内容提要
本文探讨了机器学习在高风险决策中的应用，提出了混合决策系统的分类法，强调人机交互的挑战与伦理困境。研究表明，人工智能与人类在决策中具有互补技能，需建立以人为中心的AI设计，以促进人机协作与理解。
延伸解读
混合决策系统的分类框架
文章提出了混合决策系统的分类法，旨在为理解人机交互模型提供概念和技术框架。这一分类法有助于梳理当前计算机科学文献中不同的人机协作模式，为后续研究提供系统化的参考。通过分类，可以更清晰地识别各种交互方式的特点和适用场景，从而推动人机混合决策系统的设计与评估。
人机决策的互补性与协作机制
研究表明，在涉及风险元素和探索利用过程的小组决策中，人工智能与人类具有互补技能。通过向人类团队提交智力问题并评估成员与AI代理的相对专业知识，可以构建AI-人类团队决策模型。这种协作机制有助于在不确定情况下最大化整体回报，并验证了前景理论、影响动态和贝叶斯学习等社会认知构建的价值。
可解释AI与以人为中心的设计挑战
设计人类感知AI系统面临建模心理状态、识别意图、提供主动支持和展示可解释性等挑战。可解释AI强调以人为中心的发展，以提高算法输出与人类期望的一致性。然而，现有交互方式多为简单合作模式，对真正交互功能的支持较少。文章提出的交互模式分类系统有助于理解当前决策环境中的人机交互方式，并促进交互设计的有意选择。
顺序决策中的建议策略与人类依附
针对人类忽视AI建议以及AI需在关键时刻选择性提供建议的问题，文章提出了一个顺序决策模型，考虑人的依附水平并引入推迟选项，使机器能暂时不提供建议。学习算法能够学习最佳建议政策并仅在关键时间点提供建议。与通用强化学习算法相比，该算法具有更好的理论收敛性能和强大的实证性能。
Q&A
机器学习在高风险决策中的应用有哪些？
机器学习模型在高风险任务和决策中的应用日益增加，尤其是在支持人类决策方面。
什么是混合决策系统的分类法？
混合决策系统的分类法提供了一个概念和技术框架，以理解人机交互模型。
人类感知人工智能系统面临哪些挑战？
面临的挑战包括建模人类心理状态、识别愿望和意图、提供主动支持和展示可解释性。
人工智能与人类在小组决策中如何互补？
人工智能与人类在小组决策中具有互补技能，可以通过共同框架促进协作。
可解释的人工智能为何重要？
可解释的人工智能强调以人为中心的发展，以提高算法输出与人类期望的一致性。
如何提高人工智能的预测能力？
考虑人类专业知识的分布并以此训练无监督的人工智能模型，可以显著提高预测能力。
