【Deep Dive: AI Webinar】自由与开源软件和人工智能的意识形态：“开放”对于平台和黑盒子系统意味着什么?...
内容提要
这篇文章是关于人工智能网络研讨系列的第二个视频，讨论了自由开源软件和人工智能的意识形态以及开放人工智能的利弊。开放人工智能提供透明性、可重用性和可扩展性，但不能保证审计和民主控制。它可能增加不安全性并影响竞争。文章呼吁深入思考开源人工智能的价值，并强调开放人工智能不等同于民主化的人工智能。
延伸解读
从离散软件到平台门卫：开放含义的变迁
文章指出，早期开源软件多为可下载的终端产品，与专有软件直接竞争，用户对软件有较强的控制感。但如今重要的开源软件多是为大规模平台构建的基础设施，软件不再是离散工具，而是通往其他资源和信息的“门卫”。这种转变意味着，即使代码开放，普通用户也难以像过去那样直接控制或替换整个系统，开放性的实际意义因此变得复杂。
开放人工智能的四个层面与隐藏门槛
文章将开放人工智能拆解为数据、源代码、模型和文档四个组成部分，但强调开发框架、计算能力和劳动力同样关键。PyTorch和TensorFlow等开源框架主要由Meta、谷歌等公司主导，标准化了人工智能的构建方式；算力和数据则集中在财力雄厚的企业手中。因此，仅看四个组成部分的开放程度，不足以判断一个人工智能系统是否真正易于参与和审计。
透明不等于审计，开放不等于民主化
文章反复提醒，开放人工智能能提供透明性、可重用性和可扩展性，但不能自动保证审计有效，也不等于民主控制或有意义的竞争。漏洞可能长期存在，审计需要专门资源；开放模型也可能被用于有害的新场景。同时，当前开放生态严重依赖少数企业的基础模型，创新方向可能被窄化。因此，开放应被视为一种有条件的手段，而非道德或安全的替代品。
Q&A
开源人工智能通常包含哪些组成部分？
开源人工智能通常包含四个主要组成部分：用于训练和评估模型的数据、定义模型架构和超参数的源代码、训练好的模型权重，以及相关的文档（如模型卡、数据表等）。
开源人工智能能保证系统的透明性和可审计性吗？
开源人工智能可以提供透明性，但并不能保证审计。公开代码和数据并不自动意味着会有专门的资源进行审计，分布式责任体系使得组织审计非常困难，漏洞可能长期存在。
开源人工智能是否等同于民主化的人工智能？
不等同。开放人工智能可以在一定程度上提供透明性、可重用性和可扩展性，但它不提供民主控制，也不保证有意义的竞争。开放不等于民主化。
自由开源软件的四种自由是什么？
四种自由是：自由运行软件、自由修改软件、自由再分发软件、自由传播修改后的版本。这些自由旨在保障用户对软件的自主性和控制权。
平台化对软件的性质和开源理念产生了什么影响？
平台化使软件从离散的产品转变为通往其他资源和信息的门卫。软件不再仅仅是终端用户工具，而是控制多边市场的中介，这改变了我们与软件的关系和控制方式，对开源理念提出了新挑战。
开放人工智能可能带来哪些风险或负面影响？
开放人工智能可能增加不安全性，因为发布基础模型可能被应用于有害的新场景。同时，它可能影响行业竞争，导致同质化，并可能强化少数企业的主导地位。此外，开放并不自动提供审计或民主控制。
