IBM Blog
·
IBM如何与Smarter Balanced共同塑造教育中的人工智能治理
💡
原文英文，约1600词，阅读约需6分钟。
📝
内容提要
Smarter Balanced Assessment Consortium和IBM咨询公司正在合作探索在教育评估中使用人工智能。他们成立了一个顾问小组，旨在制定指导原则，以负责任地在学校实施和管理人工智能，重点关注以人为本的设计、多样性和以学生为中心的价值观。该小组的目标是创建值得信赖、公平和包容的人工智能模型，同时考虑潜在的意外伤害和偏见。目标是确保人工智能模型能够满足所有学生和整个社会的需求。
🎯
关键要点
- Smarter Balanced Assessment Consortium与IBM咨询公司合作，探索在教育评估中使用人工智能。
- 成立顾问小组，制定负责任的人工智能实施和管理指导原则，关注以人为本的设计和多样性。
- 传统的K-12学生技能评估受到公平性问题的批评，人工智能有潜力提供个性化学习和评估体验。
- 顾问小组包括教育测量、人工智能伦理和政策等领域的专家，旨在将准确性和公平性融入教育测量中。
- 采用以人为本的设计思维框架，确保技术实施以用户需求为中心，促进创新解决方案的开发。
- 建立多样化的智囊团，确保人工智能的可信性和责任感，增强学生的学习体验。
- 探索与AI模型相关的人类价值观，包括可解释性、公平性、稳健性、透明度和数据隐私。
- 使用设计思维框架评估AI模型的主要、次要和第三影响，识别潜在的意外伤害。
- 识别可能受到伤害的学生群体，包括心理健康问题、不同社会经济背景、非英语母语者和神经多样性人士。
- 公开发布过程，促进对教育中人工智能使用的负责任讨论，确保满足社会多样性的需求。
❓
延伸问答
Smarter Balanced与IBM的合作目标是什么？
他们的合作旨在探索在教育评估中负责任地使用人工智能，制定指导原则以确保公平和准确性。
顾问小组的组成和目标是什么？
顾问小组由教育测量、人工智能伦理和政策等领域的专家组成，目标是制定将准确性和公平性融入教育测量的指导原则。
如何确保人工智能在教育中的公平性？
通过采用以人为本的设计思维框架，确保技术实施以用户需求为中心，并建立多样化的智囊团来减少偏见。
在教育评估中使用人工智能的潜在风险有哪些？
潜在风险包括对弱势群体的偏见、数据隐私问题、缺乏适当的治理和沟通等。
该项目如何考虑不同学生群体的需求？
项目通过建立多样化的智囊团，确保不同背景的专家和学生的声音被纳入决策过程，以满足所有学生的需求。
该合作项目的下一步计划是什么？
下一步是探索和定义指导人工智能在学生评估中使用的价值观，确保其符合以学生为中心的原则。
➡️
