The Verge ·

微软在首份负责任人工智能透明报告中表示已取得重大进展

💡 原文英文，约700词，阅读约需3分钟。

📝

内容提要

微软发布了首份负责任人工智能透明报告，强调2023年在安全部署AI产品方面的成就。报告指出，微软创建了30个负责任AI工具，增强了团队，并要求生成性AI应用在开发过程中评估风险。此外，微软为Azure AI客户提供了检测有害内容的工具，并扩展了红队测试，以确保AI模型的安全性。尽管面临争议，微软仍致力于负责任AI的持续改进。

🔎

延伸解读

透明报告与白宫承诺的关联

微软的首份负责任AI透明报告是其履行2023年7月与白宫自愿协议承诺的一部分。该协议要求企业建立负责任的AI系统并致力于安全。报告主要覆盖2023年，展示了微软在安全部署AI产品方面的成就，如创建30个负责任AI工具、扩大团队、要求生成式AI应用评估风险等。这体现了微软对政府承诺的回应，也反映了行业对AI透明度的日益重视。

红队测试的扩展与挑战

微软扩展了红队测试，包括内部红队和第三方测试，以识别AI模型的安全漏洞。内部红队故意尝试绕过安全功能，而第三方测试允许在发布新模型前进行应用测试。此外，微软还增加了越狱检测方法，包括间接提示注入。然而，红队工作仍面临挑战，如Bing AI曾输出错误信息和种族歧视言论，Bing图像生成器被滥用生成不当图片，表明安全措施仍需加强。

Azure AI客户工具的实际应用

微软为Azure AI客户提供了检测有害内容的工具，涵盖仇恨言论、色情内容和自残内容，以及评估安全风险的工具。这些工具帮助客户在应用中识别和缓解潜在风险。同时，微软在图像生成平台添加了内容凭证，为AI生成图片添加水印。这些措施旨在提升AI应用的透明度和安全性，但实际效果取决于客户的使用和持续改进。

负责任AI的持续改进与争议

尽管微软在负责任AI方面取得进展，但其AI产品仍引发争议，如Bing AI的错误信息和图像生成器被滥用。微软CEO萨提亚·纳德拉称某些图像“令人震惊和可怕”，并关闭了相关漏洞。首席负责任AI官Natasha Crampton表示，负责任AI没有终点，公司不会认为自愿承诺已完成，但已取得强劲进展。这表明负责任AI是一个持续过程，需不断应对新挑战。

❓

Q&A

微软在负责任人工智能方面取得了哪些成就？

微软在2023年创建了30个负责任AI工具，并扩大了负责任AI团队。

微软如何确保生成性AI应用的安全性？

微软要求生成性AI应用在开发过程中评估和映射风险，并扩展了红队测试以确保安全性。

微软为Azure AI客户提供了哪些工具？

微软为Azure AI客户提供了检测仇恨言论、色情内容和自残内容的工具。

微软在负责任AI方面面临哪些争议？

微软的AI产品在推出时曾出现错误信息和不当内容生成的情况，引发了争议。

微软的负责任AI工作是否有结束的时刻？

微软的首席负责任AI官表示，负责任AI没有终点，工作将持续进行。

微软在负责任AI方面的未来计划是什么？

微软计划在负责任AI方面继续推进，建立在已有的进展基础上。

🏷️