本研究提出了一种基于用户凭证验证的访问控制框架，旨在解决AI安全系统的双重用途问题。通过结合小型专家模块与生成模型，有效实施风险检测，确保经过验证的用户能够获取专业知识，同时阻止对手访问，从而实现模型效用与安全性的平衡。

在数字化转型中，企业越来越重视软件供应链的安全性。FCIS 2024大会将讨论风险识别与治理，周幸将分享关键技术与方法，助力企业转型。

本文探讨了基于生成模型的自动驾驶安全关键场景生成方法，利用深度强化学习和对抗性框架提高驾驶行为仿真准确性，验证了其在智能交通系统中的实用性和鲁棒性。这些方法有效检测自动驾驶汽车的风险弱点，为未来技术改进提供了重要洞见。

应用自然语言处理（NLP）技术在金融风险检测方面的研究，构建了一个基于 NLP 的金融风险检测模型，旨在识别和预测金融文件和通信中的潜在风险。通过实证研究验证，该模型在风险识别和预测方面表现出色，并为金融机构提供有效的风险管理工具。该研究利用先进的 NLP 技术，为金融风险管理领域提供了有价值的参考，提高了风险检测的准确性和效率。

对于自杀风险的早期检测非常重要，本研究通过青少年自发言语对自杀风险进行自动检测，并收集了汉语数据集，包括来自千名年龄在十到十八岁之间的青少年 15 小时的自杀言语进行实验。通过使用 Whisper 语音模型和大型文本语言模型 (LLM) 来检测自杀风险，采用了全参数微调和参数效率微调方法来适应预训练模型，评估了多种音频文本融合方法来结合 Whisper 和 LLM...

研究表明，社交媒体，尤其是 Reddit，成为自杀意念和心理健康评估的重要资源。通过深度学习和弱监督方法，研究者提高了自杀风险评估模型的性能，分析社交媒体数据以预测抑郁和其他心理障碍，提供早期干预的可能性。这些方法有效应对了数据稀疏性挑战，推动了心理健康监测的创新。

Cloudflare One引入了基于用户行为的风险检测功能。通过人工智能/机器学习技术，Cloudflare分析用户活动和行为，识别异常行为和潜在的威胁指标。这使安全团队能够封锁可疑活动并调整安全策略。Cloudflare引入了零信任用户风险评分，根据行为规则自动评估上下文风险。用户风险评分根据Cloudflare账户中的日志数据构建。用户可以启用和禁用风险行为并调整风险评分。用户风险评分和数据丢失防护是Cloudflare One的一部分。

该研究提出了FINER框架，用于生成高保真度和高可理解性的风险检测分类器解释。通过从模型开发者、特征归因设计者和安全专家中获得解释，FINER框架采用解释引导的多任务学习策略提高保真度，并通过任务知识提高可理解性。FINER改善了风险检测的解释质量，并在恶意软件分析方面超过了最先进的工具。