Fragments 0x0018

💡 原文中文,约5000字,阅读约需12分钟。
📝

内容提要

文章以《This Too Shall Pass》为题回顾人工智能六十年:从达特茅斯会议、符号主义与连接主义之争,到两次寒冬,再到算力、数据、算法推动神经网络复兴。作者指出AI核心理论变化不大,机器“学习”与人类不同,公众对“智能”期待过高,应理性看待其局限。

🔎

延伸解读

“学习”一词的模糊性如何推高预期

文章借明斯基的“手提箱词”概念指出,“学习”“推理”等术语外延模糊,容易让公众把机器训练等同于人类学习。作者对比数据量:GPT-3使用数千亿token,而儿童听到的单词不排重不到一亿,说明人类靠抽象和泛化,机器靠参数调整。这种本质差异意味着,用人类“学习”的经验去理解AI,会自然抬高对“智能”的期待,也模糊了技术局限。

两次寒冬的循环模式与当下警示

文章总结前两次AI寒冬有相似路径:研究进展引发激动,产业加大投入,应用未达预期,行业进入低谷。作者没有断言今天会重演,但提醒当前对AI的期待同样可能过高。这一历史模式的价值在于,它把“技术突破”和“商业落地”分开看:突破不等于应用成熟,资本热度也不等于需求被满足。读者可据此更冷静地评估AI项目宣传。

神经网络复兴靠的是工程条件,而非理论突变

文章强调,这轮AI的核心理论几十年前已提出,真正推动神经网络成为主流的是算力、数据和算法三方面进展的综合。GPU被用于训练、互联网带来大量公开数据、Transformer架构被公开,这些条件让大规模训练成为可能。作者还提到数据来源存在“原罪”,即爬取数据未必获得授权。这提示读者:当前能力提升更多来自工程与资源,而非对智能本质的突破。

产品交互中缺失的“不可靠”提示

作者以ChatGPT为例,表达了对AI产品交互设计的不满:没有在流程中明确提醒用户“不要轻信”,推理过程难以溯源,出错后道歉也无助于解决问题。这指向一个实际风险:当用户高估AI可靠性时,可能把错误输出当作结论。文章并未否定AI的进展,而是强调产品应更诚实地暴露局限,让用户保持判断,而不是用拟人化交互掩盖不确定性。

❓

Q&A

人工智能这个概念最早是在哪次会议上被正式提出的?

人工智能首次被正式公开使用是在60年前的达特茅斯会议上,该会议的正式名称是“人工智能夏季研讨会”。

符号主义和连接主义的主要区别是什么?

符号主义主张用符号、公理和逻辑体系搭建AI系统,推理过程可解释、错误可追溯;连接主义主张模仿人类神经元,用神经网络连接机制实现AI,但缺乏可解释性。

人工智能经历过几次寒冬?寒冬的模式是怎样的?

经历过两次寒冬。模式类似:研究取得进展,人们激动并抱高期望,产业界加大投入开发应用,应用未满足期望,行业进入低谷。

为什么说机器的“学习”和人类的学习不是一回事?

人类学习具有抽象和泛化能力,不需要大量数据;而机器如GPT-3训练使用数千亿token,普通儿童听到的单词不到一亿。机器“学习”本质是调参数,与人类学习完全不同。

神经网络再次成为主流是由哪些因素推动的?

主要归功于三方面进展的综合:算力(如GPU的使用)、数据(互联网带来大量公开数据)、算法(如Transformer架构的提出)。

公众对AI的“智能”期待过高体现在哪些方面?

文章指出,像“学习”这类词外延模糊,导致普通用户预期过高;此外,人类有将无生命物体视为有生命的倾向(Pareidolia现象),以及Eliza效应,都让人容易误以为AI具有智能。

🏷️

标签

➡️

继续阅读