NVIDIA Blog
·
数以千计的力量：NVIDIA与生成式红队挑战在DEF CON上释放安全审查力量
💡
原文英文，约900词，阅读约需4分钟。
📝
内容提要
数千名黑客将在拉斯维加斯对生成式人工智能平台进行调整和探索，以建立更可信赖和包容的人工智能。NVIDIA与黑客社区合作，参与了LLM解决方案的首次测试，包括NeMo和NeMo Guardrails。安全和信任是整个行业关注的焦点。NVIDIA员工参与了黑帽会议和DEF CON聚会。通过Generative Red Team Challenge，DEF CON的参与者将能够展示提示注入、试图引发不道德行为和测试其他技术以获得不适当的回应。
🎯
关键要点
- 数千名黑客将在拉斯维加斯调整和探索生成式人工智能平台，以建立更可信赖和包容的人工智能。
- NVIDIA与黑客社区合作，参与首次测试行业领先的LLM解决方案，包括NeMo和NeMo Guardrails。
- Generative Red Team Challenge将为黑客提供多个漏洞进行利用，成为现实检验新兴AI技术的机会。
- AI的安全性和信任性是全球关注的焦点，拜登-哈里斯政府已获得领先AI公司的自愿承诺。
- NVIDIA在生成式AI革命初期发挥了重要作用，提供了支持大型语言模型突破的超级计算机。
- 麦肯锡估计生成式AI每年可为全球经济增加2.6万亿至4.4万亿美元。
- NVIDIA员工在Black Hat和DEF CON会议上与与会者互动，讨论AI的安全性和潜在好处。
- 通过Generative Red Team Challenge，DEF CON参与者将展示提示注入和测试不当响应的技术。
- NeMo Guardrails作为开源软件，帮助开发者引导生成式AI应用程序，确保其准确性和安全性。
- 活动组织者计划分析数据并发布研究结果，以帮助其他组织进行类似的测试。
- Generative Red Team Challenge将在DEF CON 31的AI Village举行，时间为8月10日至13日。
➡️
