反对虚假的 AI 夸大宣称的立场文件
内容提要
本文重新审视图灵测试，指出人工智能专家误将HL-level Intelligence当作AI发展目标，数据获取是AGI瓶颈。研究还发现，人们将人性化特征赋予AI会影响法律合规与人机互动，带来操纵风险。大型语言模型存在认知错误、虚假信息与伦理风险，应谨慎使用并推进人类中心评估。
延伸解读
重新审视图灵测试的深层含义
文章指出，人工智能专家误将HL-level Intelligence当作AI发展目标，并认为数据获取是AGI的瓶颈。这提示我们，图灵测试可能被误解为模仿游戏，而真正的智能涉及更复杂的特征。重新审视图灵测试，有助于厘清AI与人类数据收集能力的差异，从而更准确地定位AGI的缺失特征，避免陷入虚假的夸大宣称。
人性化AI的潜在操纵风险
研究发现，人们将人性化特征赋予AI系统会影响法律合规性，并根本改变人机互动方式，带来操纵和负面影响。这提醒我们，在追求AI可靠性时，应谨慎使用人性化策略。过度拟人化可能模糊责任边界，甚至被利用来误导用户，因此需要保守策略来平衡技术发展与伦理安全。
大型语言模型的认知与伦理局限
文章强调，大型语言模型存在认知错误、虚假信息和伦理风险，例如可能表现出类似人类直觉的决策偏差，并被用于生产虚假信息。这要求我们谨慎使用这些技术，并推进人类中心的评估。通过心理模型、用例使用价值和认知参与等研究重点，可以更全面地衡量LLM的实际影响，减少潜在伤害。
Q&A
为什么人工智能专家对图灵测试的理解存在误区？
人工智能专家误将HL-level Intelligence视为人工智能发展的目标，并认为数据获取（Access和Ingest data）是AGI发展的当前瓶颈，因此需要重新审视图灵测试。
人们将人性化特征赋予AI系统会带来哪些风险？
会严重影响AI在法律层面上的合规性，并对人机互动方式产生根本性改变，实现潜在的操纵和负面影响。
大型语言模型存在哪些认知错误和伦理风险？
大型语言模型在某些情况下表现出类似人类直觉的行为，包括许多认知错误；同时过度依赖LLMs会带来严重风险，如被用于生产虚假信息，引发新的伦理挑战和各种类型的欺诈。
什么是人类中心的大型语言模型评估？
人类中心的大型语言模型评估提出了心理模型、用例使用价值和认知参与三个研究重点，旨在加速人类中心式大型语言模型评估的进展。
人类智能和人类增强的人工智能在激励上有何不同？
人类智能和人类增强的人工智能有着不同的激励，目前技术人员、商业和政策制定者都过分倾向于自动化，这种趋势可能导致失去经济权利和政治议价权，而研究开发人类增强的AI才有助于人类保持掌握营造价值的能力。
大型语言模型与人类分析师的推理能力有何差异？
研究发现人类分析师和LLMs的分类和推理能力存在显著差异，但二者合作可能会产生协同效应，从而丰富了定性研究。
