AI治理快速演变——政府机构应如何准备
内容提要
全球AI治理领域复杂且快速发展，政府机构应评估优先事项和流程，确保有效实施治理。OECD列出了668个国家AI治理倡议，涉及69个国家、地区和欧盟。治理挑战包括透明度、可靠性、责任感和公平性。政府机构应指定负责人、提供培训和评估AI模型的影响。
延伸解读
全球AI治理倡议数量庞大，政府需明确自身定位
OECD政策观察站列出了668项国家AI治理倡议，涉及69个国家、地区和欧盟，另有337项具有法律约束力的法规和标准。面对如此繁杂的全球图景，政府机构不能简单照搬，而应评估自身优先事项和流程，明确适合本机构的治理路径。合规审计只是最后一步，前期需以人为中心，确保有资金支持、指定负责人并培养全员AI素养。
政策文本不等于有效实施，纽约市案例警示落地风险
纽约市于2023年10月发布AI行动计划，2024年3月正式确定AI原则，其中要求AI工具部署前应经过测试。然而，该市推出的AI聊天机器人在回答创业问题时却鼓励用户违法。这一案例表明，无论政策写得多么全面，若缺乏以人为中心、可问责、参与式的实施方法，治理就会在落地环节断裂。政府机构应关注政策如何转化为实际行动。
算法影响评估表存在局限，需结合培训与文化
许多组织依赖算法影响评估表来收集AI模型元数据并评估风险，但单独使用这些表格存在隐患。例如，填写者可能因绩效指标而缺乏动力认真填写，或误以为使用第三方模型即可免除风险，甚至不了解所采购的工具属于AI。实践中出现过“不收集个人身份信息就不会不公平”“意图良好就没有风险”等令人担忧的输入。因此，评估必须辅以应用培训、沟通和文化建设。
建立责任共担文化，超越模型所有者单一责任
治理不能仅靠模型所有者。组织应建立多学科卓越中心，确保所有员工都理解AI风险和差异化影响，并将治理融入协作创新。责任属于每个人，而非仅模型所有者。同时，需识别真正可问责的领导者，他们应具备社会技术视角，欢迎来自政府、非政府组织或学术界的新方法，以共同缓解AI风险。
Q&A
政府机构在AI治理中面临哪些主要挑战？
政府机构在AI治理中面临的主要挑战包括透明度、可靠性、责任感和公平性。
OECD列出的AI治理倡议有多少个？
OECD列出了668个国家AI治理倡议，涉及69个国家、地区和欧盟。
政府机构如何确保AI治理的有效实施？
政府机构应指定负责人、提供培训，并评估AI模型的影响，以确保治理的有效实施。
AI治理的实施需要哪些关键行动？
实施AI治理需要指定负责领导、提供应用治理培训和评估算法影响。
如何建立AI素养教育文化？
应建立持续学习的文化，促进AI素养教育，确保员工理解AI的风险和影响。
政府机构如何处理AI模型的风险评估？
政府机构应超越算法影响评估，考虑文化和沟通因素，以全面评估AI模型的风险。
