The Verge
·
谷歌的AI奖励计划向漏洞猎人支付最高3万美元
💡
原文英文，约400词，阅读约需2分钟。
📝
内容提要
谷歌推出新奖励计划，旨在发现AI产品中的漏洞，包括恶意行为。该计划吸引了研究人员，过去两年支付超过43万美元。同时，谷歌推出AI代理CodeMender修复代码漏洞，并为重大漏洞报告提供最高3万美元奖励。
🎯
关键要点
- 谷歌推出新奖励计划，专注于发现AI产品中的漏洞。
- 该计划包括对恶意行为的定义，如通过AI提示间接解锁门或数据外泄。
- 新计划明确了AI漏洞的定义，主要包括利用大型语言模型或生成性AI系统造成的危害。
- 过去两年，漏洞猎人已获得超过43万美元的奖励。
- 谷歌表示，生成仇恨言论或侵犯版权内容的问题应通过产品反馈渠道报告。
- 谷歌还推出了AI代理CodeMender，用于修复代码漏洞，已修复72个开源项目的安全问题。
- 针对谷歌主要产品的恶意行为报告可获得最高3万美元的奖励，具体金额取决于报告质量和新颖性。
❓
延伸问答
谷歌的新奖励计划主要是为了什么？
谷歌的新奖励计划旨在发现AI产品中的漏洞，包括恶意行为。
谷歌在过去两年中支付了多少奖励给漏洞猎人？
在过去两年中，谷歌已支付超过43万美元的奖励给漏洞猎人。
什么样的漏洞可以获得最高3万美元的奖励？
针对谷歌主要产品的恶意行为报告可获得最高3万美元的奖励，具体金额取决于报告质量和新颖性。
谷歌推出的CodeMender是什么？
CodeMender是谷歌推出的AI代理，用于修复代码漏洞，已修复72个开源项目的安全问题。
谷歌如何定义AI漏洞？
谷歌将AI漏洞定义为利用大型语言模型或生成性AI系统造成的危害，主要包括恶意行为。
如果发现生成仇恨言论的问题，应该如何处理？
谷歌表示，生成仇恨言论或侵犯版权内容的问题应通过产品反馈渠道报告。
➡️
