认真对待培训：人类引导和基于管理的人工智能监管
内容提要
人工智能监管研究综述指出，欧盟AI法案采用基于风险的监管，强调数据质量与人工监督，建议以责任分配为核心机制。研究通过公共采购清单识别合规AI，需跨学科合作。为趋利避害，应建立国际AI治理框架和统一监管机构。综述73篇论文发现AI领域复杂且不成熟，存在基于风险与基于原则两类方法。有学者主张以法律制度保障AI安全，并推行AI治理框架。交互式决策辅助系统实验显示可提升人类决策准确性。AI伦理原则性准则不足以规范行业，需加强培训与法律监管。
延伸解读
监管思路的演变与分歧
文章梳理了2020至2023年间多篇AI监管研究，显示监管思路从早期呼吁国际治理框架，逐步转向更具体的基于风险的欧盟AI法案模式。同时，综述73篇论文发现领域内存在基于风险与基于原则两类方法，且整体不成熟、缺乏明确性。这提示读者，当前AI监管仍处于探索阶段，不同路径各有优劣，尚未形成共识。
责任分配与合规识别
文章强调将责任视为主要监管机制，并区分潜在危害的内生和外生因素，通过合理分配开发者和使用者之间的责任来减轻风险。此外，研究通过两个公共部门采购清单来标识AI是否符合规定要求，并确认需跨学科合作。这表明，实际操作中，责任划分和合规工具是落地监管的关键，但跨学科协作仍是挑战。
人机协作的实证价值
文章提到一项在美国刑事司法系统前期释放审判中的大规模实验，发现交互式AI决策辅助系统能在必要时提供准确建议，相比固定非交互式系统显著提高人类决策水平。该系统还能促进人类学习、保护决策者补充优势、促进对建议的积极响应。这为AI辅助决策提供了实证支持，但需注意其应用场景特定，推广需谨慎。
伦理准则的局限与法律补位
文章批判性分析指出，基于原则性伦理准则的治理形式不足以规范AI行业及其开发者。建议通过培训过程和增加行业监管来实现根本性变革，并主张法律应从生物伦理学中获益，将AI伦理学成果在法律条文中明确规范。这提示读者，仅靠伦理原则难以奏效，法律监管和人员培训需双管齐下。
Q&A
欧盟人工智能法案采用什么监管方法？
欧盟人工智能法案采用基于风险的监管方法，旨在预防有害结果，并提倡对数据质量和人工监督进行批判性检查。
如何减轻人工智能风险？
建议将责任视为主要监管机制，区分潜在危害的内生和外生因素，通过合理分配开发者和使用者之间的责任来减轻风险。
人工智能监管有哪些主要方法？
主要有基于风险和基于原则的两类方法。
为什么需要国际人工智能治理框架？
为了最大化人工智能技术的好处并最小化其风险，需要一个国际的人工智能治理框架，包括一个新的人工智能监管机构来制定规范统一的AI技术标准并协调世界各地的政策制定。
交互式人工智能决策辅助系统有什么优势？
交互式辅助系统能够在必要的时候提供准确的建议，与固定的非交互式系统相比，可以显著提高人类的决策水平。同时，它还具有促进人类学习、保护人类决策者补充优势、促进对建议的更积极响应等优点。
为什么基于原则的AI伦理准则不足以规范行业？
基于原则性伦理准则的这种治理形式不足以规范人工智能行业及其开发者。建议通过对人工智能相关专业人员的培训过程和增加对其行业的监管来实现根本性变革，并建议法律应从生物伦理学中获益，将人工智能伦理学的探索成果在法律条文中加以明确规范。
