李飞飞亲自撰文，数十名科学家签署联名信，反对加州AI限制法案
内容提要
硅谷AI科学家与监管部门就SB-1047法案展开争议。该法案旨在为高风险AI模型建立安全标准，但科学家认为其过于不合理，将对科技创新造成影响。法案要求模型开发者对下游使用或修改承担法律责任，阻碍开源社区发展。科学家签署联名信以阻止法案通过。
延伸解读
法案的监管逻辑与争议焦点
SB-1047试图从模型层面监管AI，以计算量和成本为阈值界定高风险模型，并要求开发者对下游使用承担法律责任。支持者认为这能防范灾难性后果，但反对者指出，这种基于任意阈值的监管不仅难以精准解决偏见、深度伪造等实际危害，还可能因责任归属不清而阻碍创新。法案设立的“前沿模型部门”和吹哨人保护条款，体现了监管尝试，但科学界对其科学性和可行性存疑。
对开源生态与学术研究的潜在冲击
法案要求高风险模型具备“终止开关”并接受安全审核，这对开源模型尤为不利。开源社区依赖协作和模型可获取性，而严格的责任和审核要求可能迫使开发者将项目移出加州，或转向闭源。学术界本就面临数据和算力劣势，若无法获取先进模型，将难以开展研究和培养人才。李飞飞和联名信均指出，这可能导致学术AI研究衰退，并削弱开源作为创新源泉的作用。
监管方向之争：技术还是应用？
吴恩达等科学家主张监管应针对具体应用而非技术本身，类比电机监管：若要求电机制造商为所有滥用负责，将导致电机生产停滞或功能受限。AI同样如此，若对基础模型施加过度责任，可能扼杀通用技术的潜力。相反，聚焦于高风险应用（如深度伪造、生物武器设计）能更精准地评估和降低风险。这一观点与法案的模型层监管思路形成鲜明对比，反映了AI治理中“管技术”与“管应用”的深层分歧。
Q&A
SB-1047法案的主要目的是什么？
SB-1047法案旨在为高风险AI模型建立安全标准，以防止其被滥用或引发灾难性后果。
科学家们对SB-1047法案的主要反对理由是什么？
科学家们认为法案条款不合理，将对科技创新造成毁灭性影响，并阻碍开源社区的发展。
SB-1047法案对开源社区有什么影响？
法案要求模型开发者对下游使用或修改承担法律责任，这将阻碍开源社区的发展。
李飞飞在反对SB-1047法案时提到了哪些具体问题？
李飞飞指出法案将过度惩罚开发者、束缚开源开发，并削弱公共部门和学术AI研究。
SB-1047法案的通过可能会对其他州产生什么影响？
如果法案通过，将为其他州树立先例，并在美国国内外产生连锁反应，影响创新状况。
科学家们如何表达对SB-1047法案的反对？
科学家们通过签署联名信，陈述法案对加州人工智能研究和教育目标的损害，表达反对意见。
