The Verge
·
谷歌的医疗AI虚构了一个身体部位——当医生没有注意到时会发生什么？
💡
原文英文，约2300词，阅读约需9分钟。
📝
内容提要
谷歌的医疗AI模型Med-Gemini出现了将“基底动脉”误认为“基底神经节”的错误。尽管医疗专业人士指出了这一问题，谷歌却将其视为拼写错误，未公开承认。此事件引发了对AI在高风险医疗领域可靠性的担忧，专家呼吁加强对AI的审查和实时错误检测，以确保患者安全。
🎯
关键要点
- 谷歌的医疗AI模型Med-Gemini将“基底动脉”误认为“基底神经节”，引发医疗专业人士的担忧。
- 尽管专家指出错误，谷歌将其视为拼写错误，未公开承认。
- Med-Gemini能够总结健康数据、创建放射学报告和分析电子健康记录等，但存在错误风险。
- 医疗AI模型的错误可能导致严重后果，专家呼吁加强审查和实时错误检测。
- 谷歌在发布Med-Gemini时未能及时纠正错误，导致公众对AI的信任度下降。
- 医疗行业需要对AI工具保持适当的怀疑态度，以避免因自动化偏见而导致的错误。
- 专家认为，医疗AI的错误标准应高于人类，确保患者安全至关重要。
- AI模型的错误可能会在医疗记录中传播，影响后续决策。
- 医疗AI的成熟度仍然不足，急需在临床应用中谨慎对待。
- 谷歌的研究论文未能及时更新错误，显示出医疗AI开发中的监管不足。
❓
延伸问答
谷歌的医疗AI模型Med-Gemini出现了什么错误？
Med-Gemini将“基底动脉”误认为“基底神经节”，这是一个不存在的身体部位。
谷歌对Med-Gemini的错误反应如何？
谷歌将错误视为拼写错误，未公开承认，并在博客中悄悄修改了相关内容。
医疗AI模型的错误可能带来什么后果？
医疗AI模型的错误可能导致严重后果，影响患者安全和后续医疗决策。
专家对医疗AI的可靠性有何看法？
专家呼吁加强对医疗AI的审查和实时错误检测，以确保患者安全。
为什么医疗行业需要对AI工具保持怀疑态度？
因为自动化偏见可能导致错误，医疗行业需要谨慎对待AI工具的应用。
谷歌的Med-Gemini在医疗应用中处于什么阶段？
Med-Gemini仍处于早期试验阶段，正在真实医疗场景中进行测试。
➡️
