通过人类与人工智能的偏好合作解决问题
内容提要
本文探讨了人工智能（AI）与人类合作的研究进展，提出了广义人类感知交互框架，强调AI在决策中的协作能力及其在社会困境中的应用。研究指出AI与人类的对齐问题尚未明确，并提出了双向对齐的概念框架，展望未来研究的挑战与解决方案。
延伸解读
人机协作的技术演进
文章梳理了从2017年到2024年人机协作研究的进展。早期研究通过信号生成和机器学习实现合作，无需复杂对手建模；随后出现广义人类感知交互框架，用于识别研究差距；近期则关注大型预训练模型与协作智能的结合，以及双向对齐等概念。这些节点反映了该领域从算法创新到框架构建，再到价值对齐的逐步深化。
双向对齐的提出与意义
针对AI与人类对齐定义模糊、长期互动被忽视的问题，文章基于2019年至2024年1月间400多篇论文的系统综述，提出了“双向人工智能与人类对齐”概念框架。该框架既包括传统上确保AI产生人类预期结果的研究，也涵盖调整人类认知和行为以适应AI进展的方向，强调对齐是双向动态过程，而非单向要求。
当前挑战与未来方向
文章指出，人机协作在决策方面虽有进展，但仍面临性能与公平性不足、学习模型部署需考虑实际环境等问题。此外，多代理强化学习中人类偏好表达的应用尚属未知。未来研究需应对人类价值观、交互技术和评估等方面的关键挑战，并探索潜在解决方案，以推动协作系统更可靠、更公平。
Q&A
人工智能与人类合作的主要研究进展是什么？
人工智能与人类合作的主要研究进展包括建立广义人类感知交互框架、提出人工智能与人类联合认知系统概念，以及在决策方面的协作能力提升。
什么是广义人类感知交互（GHAI）框架？
广义人类感知交互（GHAI）框架是一种通过六类模型捕捉人工智能领域工作的框架，旨在识别研究差距并提出未来研究方向。
人工智能与人类对齐的双向对齐概念框架是什么？
双向对齐概念框架旨在确保人工智能系统与人类的期望结果对齐，同时调整人类的认知和行为以适应人工智能的进展。
人机协作在决策方面存在哪些问题？
人机协作在决策方面存在性能不足、公平性问题以及学习模型部署需考虑实际环境等问题。
未来人工智能与人类合作的研究方向有哪些？
未来研究方向包括多智能体合作、人工智能与人类的协作，以及运用人工智能增强人与人之间的合作。
人工智能在社会困境中的应用有哪些关键领域？
人工智能在社会困境中的应用包括多智能体合作、人工智能与人类的合作，以及增强人与人之间的合作。
