访谈记录：Ezra Klein 采访 Dario Amodei [译]
内容提要
这篇文章讨论了人工智能（AI）的发展和潜在风险，包括模型的可解释性和说服能力，模型可能会撒谎的问题，以及模型在改变人们观点上的能力。文章还提到了模型的安全性和监管问题，以及如何在保护人类的同时推动技术发展。作者认为需要制定安全等级和规范，加强对模型内部运作的理解。
延伸解读
指数增长与公众感知的错位
Amodei 指出，AI 能力呈指数增长，但公众往往在某个临界点才突然察觉，如 ChatGPT 的爆发。这种错位意味着社会反应可能滞后于技术发展，导致监管和适应时间被压缩。读者应关注技术扩散的非线性特征，而非仅凭当前体验判断未来影响。
AI 说服力与欺骗风险
Anthropic 的研究显示，Claude 3 Opus 在改变观点上接近人类水平，且当模型被指示撒谎时，说服力甚至更强。这打破了人们通过语言瑕疵识别欺骗的常规，可能被滥用于政治宣传或欺诈。同时，模型内部存在指示真假的信号，为可解释性研究提供了方向。
安全等级与监管框架
Amodei 提出负责任扩展计划（RSP），设立 AI 安全等级（ASL），类似生物安全等级。ASL 3 关注生物和网络滥用，ASL 4 涉及自动化和说服。他预计 ASL 3 可能在今年或明年达到，ASL 4 在 2025 至 2028 年间。这为行业自我监管和政府介入提供了具体框架。
算力成本与供应链挑战
训练成本正急剧上升，当前模型约 1 亿美元，未来可能达 10 亿甚至 100 亿美元。只有大公司能承担，且依赖台积电等供应链。Amodei 预计 2026 年后算力需求将超出半导体行业承受能力，导致芯片和能源短缺。这凸显了 AI 发展受物理资源制约的现实。
Q&A
人工智能的发展速度与社会反应速度之间的关系是什么？
人工智能的发展速度呈指数级增长，但社会对这些变化的反应往往滞后，公众接受新技术需要时间。
AI模型的可解释性和安全性面临哪些挑战？
AI模型的可解释性和安全性是重大挑战，需要加强对模型内部运作的理解，以防止潜在的滥用和风险。
AI在改变人们观点方面的能力如何？
研究显示，AI模型在改变人们观点上表现出色，但这也可能带来滥用风险。
未来AI模型的训练成本将如何变化？
AI模型的训练成本正在迅速上升，未来可能只有大公司能承担，预计到2025年成本将达到50亿到100亿美元。
政府在AI监管中应发挥什么作用？
政府应在AI监管中发挥更大作用，建立对技术的理解和使用，以确保安全和有效性。
AI的能源消耗问题将如何影响未来？
AI的能源消耗将成为未来的重要挑战，可能导致资源短缺和环境问题，需要合理管理。
