MIT News - Artificial intelligence
·
如何创建“谦逊”的人工智能
💡
原文英文，约1100词，阅读约需4分钟。
📝
内容提要
MIT科学家警告，尽管人工智能有助于医生的诊断和个性化治疗，但当前AI系统可能导致错误决策。研究者建议让AI在不确定时提示用户收集更多信息，以促进AI与医生的合作，减少AI对决策的过度影响，从而确保医疗建议的准确性。
🎯
关键要点
-
MIT科学家警告，当前的人工智能系统可能导致错误决策。
-
研究者建议让AI在不确定时提示用户收集更多信息，以促进AI与医生的合作。
-
AI系统应被设计得更谦逊，能够在不自信时显示出不确定性。
-
过于自信的AI系统可能导致医疗错误，医生可能会过度依赖这些系统。
-
研究者提出的框架可以帮助AI开发者设计更具好奇心和谦逊的系统。
-
AI系统应与临床医生更协作，而不是单独做出决策。
-
研究团队开发的Epistemic Virtue Score模块可以评估AI模型的自信程度。
-
AI系统应在自信超过证据支持时暂停并请求额外信息。
-
研究旨在创建由人设计并为人服务的AI系统，以克服潜在偏见。
-
现有的AI系统通常基于电子健康记录训练，缺乏必要的上下文信息。
-
MIT Critical Data举办的数据研讨会促进不同领域专家共同设计新AI系统。
-
研究强调在AI发展中应更加谨慎和深思熟虑。
➡️
