面向工具选择的自信感知决策和控制
内容提要
本文探讨了自我信心的评估及其在无人机自主导航中的应用，提出了一种基于马尔可夫决策过程的解算器质量评估方法。研究表明，心理模型对人机协作中的信任与决策有重要影响，并提出了结合规则与机器学习的决策控制框架，以提升自动驾驶的安全性和性能。
延伸解读
自我信心评估的技术路径
文章提出基于因素分解的架构来评估自我信心，并重点讨论马尔可夫决策过程下的解算器质量。通过从经验难度模型中获取评估方法，并在无人机自主导航中进行数值实验，验证了自我信心指标具有预期性质。这为自主系统提供了一种量化自身能力的方式，有助于在不确定环境中做出更合理的决策。
人机协作中的心理模型与信任
文章指出，心理模型对人机协作中的信任与决策有重要影响。在线测试发现，人们对机器人能力和意图的估计与总体自我报告信任强相关，但做出正确决策需要多面向的心理模型，而不仅仅是校准总体信任水平。这意味着在设计协作系统时，需考虑用户对机器人的多维认知。
共享自主的局限与应对
共享自主能力使机器人能够推断用户意图并协助完成任务，但当用户想要完成机器人不了解的新任务时，共享自主会阻碍性能。文章提出机器人可以检测到自身意图表述能力的不足，并将控制权交还给用户，从而实现无阻碍的任务执行，并学习新意图以更新意图库，展示了全生命周期学习的潜力。
决策控制框架与安全
文章提出了一个结合基于规则和基于机器学习的决策控制框架，应用于自动驾驶，以解决安全性和多重要求的问题。这种混合方法旨在兼顾规则系统的可靠性与机器学习适应复杂场景的能力，为自主系统在安全关键领域中的应用提供了思路。
Q&A
自我信心的评估方法是什么？
自我信心的评估利用基于因素分解的架构，重点讨论马尔可夫决策过程下的解算器质量。
心理模型在无人机自主导航中的作用是什么？
心理模型对人机协作中的信任与决策有重要影响，需多面向的心理模型以做出正确决策。
如何提高自动驾驶的安全性和性能？
提出结合规则与机器学习的决策控制框架，以解决自动驾驶中的安全性和多重要求问题。
共享自主能力对机器人性能的影响是什么？
共享自主能力使机器人能够推断用户意图，但在面对新任务时可能会影响性能。
基于强化学习的半自主智能体如何请求帮助？
当信心低时，该智能体通过估计当前状态回报的方差来请求外部帮助。
人类对人工智能的信任度如何校正？
人类信任度的校正能够通过特定的置信度得到有效提高，需要探索新的可信度解释方法。
