AI 接口中与设计模式互动的危害的特征和建模
内容提要
本研究探讨了人机交互设计在AI公平性调查中的应用，特别是在贷款申请案例中。通过研讨会，结合贷款专员与数据科学家的需求，开发了FairHIL用户接口，并通过用户研究验证其可靠性。此外，研究提出了交互模式分类系统，以改善人机交互，促进可解释人工智能系统的设计与开发。
延伸解读
从贷款案例看AI公平性调查的落地方法
文章以贷款申请为实例，通过研讨会将贷款专员与数据科学家的需求整合到FairHIL用户接口中，并采用think-aloud用户研究验证其可靠性。这为AI公平性调查提供了一种可操作的设计空间方法，强调领域专家与数据科学家协作，而非仅依赖技术指标。
交互模式分类系统：现状与改进方向
基于105篇文献的系统综述，文章提出交互模式分类系统，发现现有交互多为简单合作模式，对真正交互功能支持较少。该分类系统有助于理解决策环境中的人机交互方式，并促进交互设计的有意选择，为可解释AI系统设计提供参考。
可解释AI与界面研究的趋势与缺口
文章引用对53篇出版物的调查，指出可解释AI和可解释界面研究旨在提升系统可用性、实用性和用户体验，并指明未来方向。同时，另一项研究强调系统级指导的缺失，提出设计模式总结，以促进负责任AI系统的设计。
安全关键行业中人机交互的挑战
文章提到安全关键行业的质量人机交互至关重要，但研究存在巨大空白，需要整合术语描述、AI系统角色、影响因素、样本性能和衡量方法。研究者和开发者应明确术语、让用户参与整个AI生命周期，并针对用户和环境定制交互设计。
Q&A
FairHIL用户接口的开发背景是什么？
FairHIL用户接口的开发结合了贷款专员与数据科学家的需求，旨在支持对AI公平性的调查。
该研究如何验证FairHIL的可靠性？
研究通过think-aloud用户研究验证了FairHIL的可靠性。
研究提出了什么样的交互模式分类系统？
研究提出了一种交互模式分类系统，以改善人机交互，促进可解释人工智能系统的设计与开发。
人机交互设计在AI公平性调查中的作用是什么？
人机交互设计支持数据科学家和领域专家对AI公平性进行调查，确保算法输出与人类期望一致。
该研究的主要目标是什么？
该研究旨在开发半正式的设计空间，为人工智能交互建立一套规范用户与AI系统的交互基元。
研究中提到的可解释人工智能（XAI）有什么趋势？
研究介绍了可解释人工智能和可解释界面研究的最新趋势，旨在提高XAI系统的可用性和用户体验设计效果。
