IBM如何与Smarter Balanced共同塑造教育中的人工智能治理
内容提要
Smarter Balanced Assessment Consortium和IBM咨询公司正在合作探索在教育评估中使用人工智能。他们成立了一个顾问小组，旨在制定指导原则，以负责任地在学校实施和管理人工智能，重点关注以人为本的设计、多样性和以学生为中心的价值观。该小组的目标是创建值得信赖、公平和包容的人工智能模型，同时考虑潜在的意外伤害和偏见。目标是确保人工智能模型能够满足所有学生和整个社会的需求。
延伸解读
教育评估中AI治理的独特挑战
与一般AI应用不同，教育评估直接关系学生机会与公平，因此治理要求更高。文章指出，传统K-12技能评估因公平性问题受批评，而AI若负责任实施，可提供个性化学习与评估体验，增强公平性。但核心挑战在于定义在学校环境中何为负责任的AI实施与治理。Smarter Balanced与IBM Consulting成立多学科顾问小组，旨在制定指导原则，将准确性与公平性嵌入教育测量，这反映了教育领域对AI治理的特殊重视。
以人为本的设计思维如何降低AI风险
文章强调采用设计思维框架，以用户成果为中心、持续再创造和赋能多元团队。该方法有助于在开发早期识别和评估风险，促进创建可信有效的AI模型。通过持续与多元领域专家和利益相关者互动并纳入反馈，设计思维帮助构建技术可靠、对社会负责且以人为本的AI解决方案。对于教育评估，这意味着AI模型不仅要技术过硬，还要符合学生和社会的多元需求，避免意外伤害。
多样性在AI伦理中的实际作用
Smarter Balanced项目建立了由教育评估、法律专家、神经多样性人士、学生和有无障碍需求者等组成的智囊团。其目标不是一次性纳入观点，而是迭代地融入治理框架。文章引用IBM AI伦理原则：AI的目的是增强而非取代人类智能；多样性不是观点，而是数学。多元团队能带来广泛视角和文化洞察，有助于减少偏见，防止AI系统无意中延续不平等或忽视不同群体需求，从而促进公平结果。
识别AI评估的潜在伤害与受影响群体
团队使用“影响层次”框架分析AI模型的一级、二级和三级效应，并识别五类潜在伤害：有害偏见、网络安全与个人身份信息问题、缺乏治理与护栏、沟通不足、以及农村地区校外连接有限。通过差异影响评估，他们确定了最易受伤害的学生群体，包括心理健康问题者、社会经济背景多样者（含无住房者）、非英语母语者、有非语言文化考量者以及神经多样性或有无障碍需求者。这些分析为后续缓解措施奠定了基础。
Q&A
Smarter Balanced与IBM的合作目标是什么？
他们的合作旨在探索在教育评估中负责任地使用人工智能，制定指导原则以确保公平和准确性。
顾问小组的组成和目标是什么？
顾问小组由教育测量、人工智能伦理和政策等领域的专家组成，目标是制定将准确性和公平性融入教育测量的指导原则。
如何确保人工智能在教育中的公平性？
通过采用以人为本的设计思维框架，确保技术实施以用户需求为中心，并建立多样化的智囊团来减少偏见。
在教育评估中使用人工智能的潜在风险有哪些？
潜在风险包括对弱势群体的偏见、数据隐私问题、缺乏适当的治理和沟通等。
该项目如何考虑不同学生群体的需求？
项目通过建立多样化的智囊团，确保不同背景的专家和学生的声音被纳入决策过程，以满足所有学生的需求。
该合作项目的下一步计划是什么？
下一步是探索和定义指导人工智能在学生评估中使用的价值观，确保其符合以学生为中心的原则。
