AI - 增强的合成生物领域下的打地鼠治理挑战：文献综述与新兴框架
内容提要
人工智能快速发展带来变革，也挑战治理能力。文章汇集多项研究，探讨AI风险与治理，提出AI治理框架、SciGuard系统防范科学滥用、Dual Governance框架兼顾创新与安全，并建议借鉴生物伦理加强法律监管，通过政府、企业、公民多级治理构建可信AI。
延伸解读
AI治理的多层次协作需求
文章指出，AI治理不能仅靠单一主体，而需要政府、企业和公民三个相互依赖的群体共同参与。通过信任维度（能力、诚信和善意）来协调各方关系，这种多级治理方法有助于增强用户体验，并为公共政策提供实用指导。这提示我们，构建可信AI需要跨部门协作，而非仅依赖技术解决方案。
科学滥用风险与防护系统
针对AI在科学领域的滥用风险，文章介绍了SciGuard系统和SciMT-Safety红队基准。SciGuard旨在控制AI模型的滥用风险，而SciMT-Safety用于评估不同系统的安全性。评估显示，该方案在有害影响最小化的同时不影响良性测试性能。这表明，通过技术手段与跨学科合作，可以在享受AI益处的同时降低滥用风险。
借鉴生物伦理强化法律监管
文章认为，基于原则性伦理准则的治理不足以规范AI行业，建议从生物伦理学中汲取经验，将AI伦理探索成果在法律条文中明确规范。同时，应加强AI相关专业人员的培训过程，并增加对行业的监管。这提示我们，法律监管与专业培训相结合，可能是实现AI负责任发展的有效路径。
Q&A
AI在合成生物学领域可能带来哪些滥用风险？
文章指出，AI在科学领域可能被滥用，例如在化学科学中，AI模型可能被用于恶意目的。为此，研究者提出了SciGuard系统来控制科学中AI模型的滥用风险，并开发了SciMT-Safety红队基准来评估不同系统的安全性。
什么是Dual Governance框架？它如何平衡AI创新与安全？
Dual Governance框架是一种治理方法，旨在促进创新和创造力的同时，确保生成式AI的安全和道德部署。通过实施该框架，可以在不牺牲安全性的前提下推动AI技术的发展。
如何通过多级治理方法构建可信AI？
文章提出了一种多级治理方法，涉及政府、企业和公民三个相互依赖的利益相关者群体。通过信任的维度（如能力、诚信和善意）来研究它们之间的相互关系，并将治理水平与AI的信任维度相结合，以增强用户体验和指导公共政策。
AI伦理治理目前存在哪些不足？如何改进？
文章认为，基于原则性伦理准则的治理形式不足以规范AI行业及其开发者。建议通过对AI相关专业人员的培训过程和增加对其行业的监管来实现根本性变革，并建议法律应从生物伦理学中获益，将AI伦理学的探索成果在法律条文中加以明确规范。
生成式AI的双重用途困境是什么？有哪些应对目标？
生成式AI可能被用于积极和消极目的，这构成了双重用途困境。文章讨论了这一问题，并提出了短期和长期目标，旨在引发学术界对此重要主题的深入讨论。
如何利用自然语言处理技术帮助合成生物学家关注伦理、法律和社会问题？
文章探讨了使用自然语言处理技术开发一个推荐模型，以连接合成生物学家与其研究所涉及的伦理、法律和社会问题的信息。该推荐模型是合成生物学知识系统（SBKS）的一部分，旨在将相关伦理和社会问题信息汇总并嵌入到合成生物学研究工作流程中。
