不要杀死婴儿：支持人工智能在仲裁中的应用
内容提要
本文探讨人工智能在公共部门，特别是儿童福利机构中的应用，强调AI在儿童虐待筛查中的决策效率提升，并提出设计建议以增强AI与人类价值的对齐。同时分析了现有法律框架在应对生成式AI挑战中的不足，呼吁法律演进以保护基本价值观。
延伸解读
AI在儿童福利筛查中的实际角色
文章基于对儿童福利机构的访谈和情境调查，揭示了工作人员在AI辅助下进行儿童虐待筛查的决策过程。这表明AI并非完全替代人类判断，而是作为决策支持工具嵌入现有工作流程。读者需注意，AI的介入可能改变责任分配和判断逻辑，因此设计建议强调支持更有效的人机协作，而非单纯追求自动化。
法律标准理解的技术进展与局限
研究显示，通过遵循法律反馈的强化学习，AI在理解受托义务方面的准确性可达78%。这一数据表明AI在解释不确定法律指令上已有一定能力，但78%的准确率也意味着仍有明显错误空间。在儿童虐待筛查等高风险领域，这种不完美可能带来严重后果，因此技术改进需与法律框架演进同步。
现行法律框架的显著缺口
文章指出，现行法律在保护自主权、隐私、尊严、多样性、平等和身心健康等基本价值观方面存在差距和不确定性。宪法和民事权利不足以充分防护AI生成的歧视性输出，且证明诽谤和产品责任的因果关系因AI系统的复杂模糊而困难。这呼吁法律框架主动演进，提供可审计的指导方针。
跨学科合作与评估谨慎性
文章强调解决AI带来的伤害、价值观和缓解策略需要深入跨学科合作。同时，对法律职业中AI应用的评估需谨慎：涉及创造力、推理或判断的任务最难评估，也最容易被过度乐观估计。因此，在仲裁等法律场景中应用AI时，应优先发展人机协同系统，并建立更可靠的评估方法。
Q&A
人工智能在儿童福利机构中的应用有哪些优势？
人工智能可以提高儿童虐待筛查的决策效率，帮助工作人员更准确地理解法律标准。
现行法律框架在应对生成式AI方面存在哪些不足？
现行法律框架在保护基本价值观方面存在显著的差距和不确定性，无法有效应对AI生成的歧视性输出。
如何增强人工智能与人类价值的对齐？
通过将法律知识和推理嵌入AI中，并利用法律过程生成的数据，可以增加AI与人类价值的对齐。
AI在法律职业中的角色是什么？
AI在法律职业中主要用于信息处理、推理任务和预测未来，正在逐渐普及。
如何评估和应用AI以提高法律决策的有效性？
需要结合人类专业知识和AI技术，评估法律任务的易用性和准确性，以提高法律决策的有效性。
跨学科合作在AI应用中的重要性是什么？
跨学科合作有助于确定伤害、价值观和缓解策略，从而更好地应对AI带来的挑战。
