💡
原文中文，约1700字，阅读约需4分钟。
📝
内容提要
数字平台的快速发展使图像安全问题日益突出，尤其是人工智能生成内容（AIGC）带来的挑战。研究人员开发了CLUE框架，利用多模态大语言模型（MLLM）将主观安全规则转化为客观标准，从而提高图像安全评估的效率和准确性。CLUE通过相关性检查、前提条件提取和去偏分析等技术，显著增强了内容审核的可靠性和适应性。
🎯
关键要点
- 数字平台的发展使图像安全问题突出，尤其是AIGC带来的挑战。
- 研究人员开发了CLUE框架，旨在提高图像安全评估的效率和准确性。
- CLUE利用多模态大语言模型将主观安全规则转化为客观标准。
- 框架特点包括：主观规则客观化、规则-图像相关性检查、前提条件提取、去偏分析和级联推理。
- CLUE通过相关性扫描简化流程，减少计算负荷，提高效率。
- 前提条件提取将复杂规则分解为简化条件，增强推理能力。
- 去偏分析降低了错误发生的可能性，提高了判断准确性。
- 级联推理机制确保低置信度场景的准确评估，提供详细理由。
- CLUE在多种MLLM架构中测试，准确度和召回率均优于现有方法。
- CLUE过滤67%的不相关规则，保留96.6%的真实违反规则，显著提高计算效率。
- CLUE在不同安全指南中表现良好，显示出其可扩展性。
- 客观化规则的准确率达到98.0%，去偏分析提高了整体判断准确性。
- CLUE为内容审核提供可靠且可扩展的解决方案，推动更安全的在线平台。
➡️
