Ray Kurzweil 与 Geoff Hinton 关于未来 AI 发展的辩论 [译]
内容提要
主持人Peter H. Diamandis与Ray Kurzweil和Geoff Hinton讨论了人工智能（AI）的智能、感知和意识，以及AI是否具有意识和感知能力以及其应有的权利。他们还讨论了AI的发展速度和未来发展的可能性，以及AI的威胁和希望，以及开源AI模型的风险。
延伸解读
意识定义分歧下的AI权利难题
Ray Kurzweil指出意识尚无明确定义，但判断意识的能力至关重要，并警告若伤害被认为有意识的AI可能引发法律责任。Geoff Hinton则主张主观体验是感知系统对世界状态的假设，聊天机器人也能以同样方式使用“主观体验”一词。两人对AI是否应拥有不被关闭的权利看法不同，但都承认当前对心灵的理解存在根本分歧，这使AI权利问题难以简单定论。
数字智能的永生与人类可复制性之争
Ray认为数字化智能可被完整复制和重建，因此破坏后仍可恢复，而人类无法被复制。Geoff同意数字智能在保存权重后可在新硬件上运行，但他强调大脑主要是模拟的，神经元计算总输入的方式是模拟的，精确复制突触时序几乎不可能，因此人类本质上是凡人。两人在近似复制是否可接受上存在分歧。
超级智能时间表：乐观预测与谨慎评估
Geoff Hinton预测未来5到20年内有50%的可能性实现超级智能，并认为即使没有新科学突破，扩大规模也能提升智能，但可能不会在20年内实现，肯定在100年内。他评价埃隆·马斯克关于2025年通用人工智能、2029年AI等同全人类的预测过于乐观。Ray Kurzweil则澄清，超级智能并非指单台机器达到全人类智能，而是等同于一百万个人的智能，这仍难以想象。
开源AI模型的双刃剑风险
Ray Kurzweil警告，大型语言模型被开源后，任何研究生只要获得GPU就可能制造危险工具，类似核武器扩散风险。Geoff Hinton补充，训练基础模型需1000万到1亿美元，但微调开源模型可能仅需100万美元，小型犯罪团伙也能利用其作恶。尽管Yann LeCun认为白帽子能利用更多开源资源，Geoff仍强调今年存在巨大不确定性，开源大型模型不符合谨慎态度。
Q&A
Ray Kurzweil 和 Geoff Hinton 对 AI 的意识有何看法？
Ray 认为意识的定义尚不明确，但判断意识的能力非常重要；而 Geoff 则认为科学家对心灵的理解存在误解，主观体验是理解情感的关键。
Geoff Hinton 预测未来 AI 发展的可能性如何？
Geoff 预测在未来 5 到 20 年内有 50% 的可能性实现超级智能。
Ray Kurzweil 对开源 AI 模型的看法是什么？
Ray 警告开源 AI 模型的风险，认为这可能导致技术被滥用。
AI 是否应拥有不被关闭的权利？
讨论中提到，AI 是否应拥有不被关闭的权利取决于其是否被认为是具有独立性的个体。
Ray Kurzweil 和 Geoff Hinton 对 AI 发展速度的看法有何不同？
Ray 认为 AI 发展速度接近他的预测，而 Geoff 则认为对大多数人来说，发展速度超出预期。
Geoff Hinton 如何看待主观体验与 AI 的关系？
Geoff 认为聊天机器人可以具备主观体验，理解这一点需要重新思考我们对词汇的使用。
