加文·纽森推动AI“终止开关”
内容提要
加州州长纽森签署行政令，推动AI安全监管，考虑要求前沿模型配备“终止开关”，并实施独立审计、透明度报告和失控事件上报。他呼吁国会和特朗普采纳加州框架，并可能召开AI特别立法会议。
延伸解读
加州为何抢跑AI监管
文章指出，由于国会中期选举前难以通过实质性AI立法，加州试图填补联邦层面的监管空白。纽森签署行政令，要求专家在两个月内提出加强AI安全措施的建议，并加快落实他已签署的两项法律，建立独立验证者和AI审计师注册制度。这显示在联邦缺位时，州级行动可能成为AI监管的主要推动力。
“终止开关”与审计要求意味着什么
行政令要求考虑多项具体措施：要求AI公司嵌入独立验证小组进行定期审计，使透明度报告和风险评估接受独立审计师的标准审查，创建并定期验证有效的“终止开关”，以及强制报告“失控事件”。这些要求若落地，将把AI安全从企业自律转向外部验证和强制披露，但具体执行标准和范围尚待专家建议。
联邦与州之间的监管张力
纽森呼吁国会和特朗普“审查并采纳加州的框架”，或将其作为监管底线。然而，特朗普曾表示AI唯一需要的控制是“强大而聪明的总统”，暗示反对严格护栏。文章认为，在华盛顿立法希望渺茫的背景下，加州的行动可能引发州与联邦在AI监管主导权上的摩擦，也可能促使其他州跟进。
Q&A
加文·纽森最近在AI监管方面做了什么？
加州州长纽森签署了一项行政令，旨在推动AI安全监管，包括考虑要求前沿模型配备“终止开关”，并实施独立审计、透明度报告和失控事件上报。
纽森的行政令具体要求考虑哪些AI安全措施？
行政令要求召集专家小组，在两个月内提出建议，考虑要求AI公司嵌入独立验证小组进行定期审计，使透明度报告和风险评估接受独立审计员的标准，创建并定期验证有效的“终止开关”，以及要求公司报告“失控事件”为关键安全事件。
为什么加州要在AI监管上采取行动？
因为国会不太可能在中期选举前采取行动，而纽森认为联邦政府未能创建有意义的AI监督或问责，且AI CEO们自己也呼吁监管，所以加州要带头行动。
纽森对国会和特朗普有什么呼吁？
纽森呼吁国会和特朗普审查并采纳加州的框架，或者将加州的领先监管作为底线而非上限，以造福所有美国人的安全和利益。
纽森可能召开AI特别立法会议吗？
是的，纽森在接受Politico采访时提出了召开加州立法者特别立法会议讨论AI的可能性， alongside potential executive action。
特朗普对AI监管持什么立场？
特朗普坚持认为，“AI唯一需要的控制或‘护栏’是一个强大而聪明的（高智商！）总统，而美国拥有这一点，而且绰绰有余！”
