关于人工智能安全的不同视角：来自哥伦比亚大学AI开放性与安全会议的研究议程

2024年11月19日，Mozilla与哥伦比亚大学召开会议，讨论AI的开放性与安全性。

会议聚集了45位专家，强调AI安全需考虑特定领域和利益相关者。

与会者提出了针对AI安全的研究议程，并呼吁建立更好的安全工具和标准。

讨论中指出，现有的安全定义和危害分类存在局限性，需关注更广泛的系统性和社会影响。

与会者强调AI安全框架应以人类和环境福祉为中心，而非仅仅关注企业风险降低。

会议提出了针对AI安全研究的具体建议，包括开发特定用例的框架和更严格的问责标准。

开放源代码的AI安全工具生态系统正在增长，开发者需要更好的导航工具。

与会者讨论了内容安全分类器的标准化问题，强调需要开放和标准化的评估机制。

会议探讨了代理风险，强调代理AI系统的安全性与可靠性之间的区别。

参与者讨论了如何通过参与性输入和民主参与来支持安全工具和系统的开发。

会议强调了开放源代码AI与国家安全之间的权衡与虚假叙事。

整体而言，会议展示了多元化、协作的AI安全方法是可能且必要的。