关于SB 1047的所有新闻：加利福尼亚州监管人工智能的尝试

📝

内容提要

加利福尼亚州最近通过了SB 1047法案，旨在监管人工智能。该法案要求AI公司在训练基础模型前采取安全措施，包括快速关闭模型和防止不安全的后期修改。尽管受到一些科技公司的批评，法案仍获得部分支持。州长纽森尚未决定是否签署该法案。

🔎

延伸解读

法案核心要求：训练前的安全措施

SB 1047要求AI公司在训练基础模型前采取多项安全措施，包括确保模型可被快速完全关闭、防止不安全的后期修改，并建立测试程序评估模型或其衍生品是否可能造成或促成严重危害。这些要求针对的是基于海量数据训练的基础模型，旨在防范潜在的存在性风险。

争议焦点：开源与行业增长

法案引发多方批评。Mozilla担心其损害开源社区，OpenAI警告可能阻碍AI行业增长，众议员佩洛西称其“意图良好但信息不足”。这些反对声音主要集中在对开源生态的冲击以及可能减缓创新速度、导致企业离开加州。

修订后获得部分支持

经过一项软化部分条款的修订后，法案获得了一些支持。Anthropic认为其“收益可能大于成本”，前谷歌AI负责人Geoffrey Hinton称其为平衡风险与技术进步的“明智方法”。这表明修订有助于缓解部分担忧，但争议并未完全消除。

未来走向：州长决定悬而未决

法案已通过加州参众两院，但州长纽森尚未表明是否签署，他必须在9月底前做出决定。由于最大的基础模型公司都位于加州，法案若签署将影响整个行业。目前法案的未来仍不确定，各方持续关注。

❓

Q&A

SB 1047法案的主要目的是什么？

SB 1047法案旨在监管人工智能，要求AI公司在训练基础模型前采取安全措施。

SB 1047法案引发了哪些公司的批评？

Mozilla和OpenAI等公司对SB 1047法案表示批评，认为可能会影响开放源代码社区和AI行业的增长。

州长纽森对SB 1047法案的态度是什么？

州长纽森尚未决定是否签署SB 1047法案，因此法案的未来仍不确定。

SB 1047法案要求AI公司采取哪些安全措施？

法案要求AI公司能够快速关闭模型，防止不安全的后期修改，并进行风险评估。

哪些组织或个人支持SB 1047法案？

尽管受到批评，部分人士如Anthropic和前Google AI负责人Geoffrey Hinton认为法案的好处大于成本，表示支持。

SB 1047法案的通过对加州的AI公司有什么影响？

SB 1047法案的通过将影响加州的大型基础模型公司，要求它们遵循新的安全规定。

🏷️

标签

SB 1047法案 人工智能 加利福尼亚州 安全措施 州长纽森