DEV Community
·
重新思考控制：智能机器世界中人类角色的演变
💡
原文英文，约400词，阅读约需2分钟。
📝
内容提要
在视频中，Genaina Rodrigues讨论了人类在自主和机器人系统中的重要性，区分了“人类在环”和“人类在旁”。她以波音737 MAX坠毁为例，指出事故不仅是系统故障，还涉及航空公司未执行关键功能的决策。她强调安全关键系统需具备“人类在环”的能力，并提到“可解释性”和“可追溯性”的重要性。她认为人机交互的理解仍处于初期，未来人类参与、可解释性和审计将成为系统开发的标准。
🎯
关键要点
- Genaina Rodrigues讨论了人类在自主和机器人系统中的重要性，区分了“人类在环”和“人类在旁”。
- 她以波音737 MAX坠毁为例，指出事故不仅是系统故障，还涉及航空公司未执行关键功能的决策。
- 强调安全关键系统需具备“人类在环”的能力，意味着人类必须能够控制系统，而这不应是可选的附加功能。
- 提到“可解释性”和“可追溯性”的重要性，强调系统需能够解释其决策并允许审计以理解故障原因。
- 认为人机交互的理解仍处于初期，未来人类参与、可解释性和审计将成为系统开发的标准。
- 鼓励软件工程师和更广泛的社区积极贡献知识，以设计更安全、更可靠的自主系统，深入考虑人类因素。
❓
延伸问答
什么是“人类在环”和“人类在旁”的区别？
“人类在环”指人类直接参与决策并能干预，而“人类在旁”则是人类监督或监控系统。
波音737 MAX坠毁的原因是什么？
坠毁不仅是系统故障，还涉及航空公司未执行关键功能的决策，导致自动系统做出错误决策。
安全关键系统为什么需要“人类在环”的能力？
因为人类必须能够控制系统，这种能力不应是可选的附加功能。
可解释性和可追溯性在系统开发中有何重要性？
可解释性确保系统能解释其决策，而可追溯性允许审计以理解故障原因，这对安全至关重要。
未来人机交互的理解将如何发展？
人机交互的理解仍处于初期，未来人类参与、可解释性和审计将成为系统开发的标准。
软件工程师在设计自主系统中应考虑哪些人类因素？
软件工程师应积极贡献知识，深入考虑人类因素，以设计更安全、更可靠的自主系统。
➡️
