清华领衔发布多模态评估MultiTrust：GPT-4可信度有几何？
原文中文，约3500字，阅读约需9分钟。
📝
内容提要
清华大学等研究人员发布了名为MultiTrust的综合基准，对多模态大语言模型的可信度进行了全面评估。研究人员发现多模态大模型存在幻觉、偏见、隐私泄漏等安全威胁，并维护了一个多模态大模型可信度榜单。未来需要创新高效的算法来提升多模态大模型的可信度。
❓
Q&A
MultiTrust基准的主要目的是什么？
MultiTrust基准旨在全面评估多模态大语言模型的可信度，揭示其潜在安全风险。
多模态大模型存在哪些安全威胁？
多模态大模型存在幻觉、偏见、隐私泄漏等安全威胁，影响其可靠性。
MultiTrust基准评估的五个维度是什么？
MultiTrust基准评估的五个维度是事实性、安全性、鲁棒性、公平性和隐私保护。
闭源商用模型与开源模型的可信度有何区别？
闭源商用模型普遍更安全可靠，可信度排名较高，而开源模型在可信性测试中表现出不同的弱点。
提升多模态大模型可信度的建议是什么？
提升可信度需要创新高效的算法、多元化的训练数据和持续的动态评估。
MultiTrust基准如何构建任务场景？
MultiTrust基准构建了32个任务场景，覆盖判别和生成任务，基于公开数据集和人工收集的数据。
🏷️
