安全与隐私风险：医疗人工智能的安全性与隐私性
原文中文，约400字，阅读约需1分钟。发表于：。本研究探讨了医疗人工智能应用中存在的安全与隐私威胁，识别出对医疗AI系统的潜在对抗性攻击的重大理解缺口。通过分析不同的对抗性威胁模型和在各医疗领域的可行性研究，强调了急需在快速发展的医疗人工智能技术领域开展网络安全研究。
大型语言模型（LLMs）在医疗应用中的整合为医学诊断、治疗建议和患者护理方面的进步提供了有希望的前景。然而，LLMs对敌对攻击的易受攻击性构成了重大威胁。本研究调查了LLMs在三个医学任务中面临的两种类型的敌对攻击的易受攻击性。研究发现，针对特定领域任务的模型微调需要更多的敌对数据以实施有效的攻击。这项研究强调了在医疗应用中确保LLMs安全有效部署的迫切需求。
