小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
大语言模型发展史:从猜词游戏到GPT智能涌现

大语言模型(LLM)自1980年代的分布式表示发展至2017年的Transformer架构,展示了在大规模数据和算力下简单规则的有效性。通过自回归框架,模型学习预测下一个词,逐步掌握语言规律。注意力机制和生成式预训练提升了模型能力,使其在无监督学习中吸收大量知识。对齐技术确保模型输出符合人类价值观,最终形成智能对话助手。

大语言模型发展史:从猜词游戏到GPT智能涌现

极道 极道 · 2026-07-16T03:29:00Z
第三次科学转变:拒绝生物工程化,正视生物涌现

生物圈的涌现与工程思维截然不同,涌现是系统自我创造新功能,而工程是预设目标并执行。科学应承认无法完全掌控生物圈,强调参与而非控制。生物创新在出现前并不存在,挑战传统科学观念。人类应适应生物圈的自我创造,而非试图用工程思维解决所有问题。

第三次科学转变:拒绝生物工程化,正视生物涌现

极道 极道 · 2026-07-04T22:54:00Z
涌现(emergence) | Tiki Taka 和德国足协的双向奔赴

文章探讨了德国足球的自组织与涌现概念,分析了Tiki Taka战术对德国队的影响。指出德国足球改革的失败在于培养“万金油”球员,而非特化人才。尽管德国队在2014年夺冠,但其成功依赖于传统战术与新体系的结合。

涌现(emergence) | Tiki Taka 和德国足协的双向奔赴

阿掖山:一个博客 阿掖山:一个博客 · 2026-06-30T00:00:00Z
一分钟读论文:《思想的经济:Agent经济交互中的多智能体智能涌现》

多位学者在论文《Economy of Minds》中探讨了用经济机制替代传统协调,以促进多智能体系统自发涌现集体智能。通过拍卖竞争、支付交换、财富积累和经济进化四种机制,研究表明简单的经济信号能够驱动去中心化的信用分配,形成有效的Agent协作。实验结果显示,经济机制使得弱Agent群体在多个任务上超越强单体,强调了群体智能的自发性和机制设计的重要性。

一分钟读论文:《思想的经济:Agent经济交互中的多智能体智能涌现》

Micropaper Micropaper · 2026-06-05T00:00:00Z

本研究解决了对上下文学习(ICL)机制的争议,提出了一套新的研究任务和方法。通过系统性分析,结果显示ICL超越了单纯的“记忆”,也并非完全是独立的符号算法实现。这一发现为模型开发者提供了提升模型性能的见解,并为AI安全实践者提供了更为明智的指导基础。

幻觉还是算法?探讨在上下文学习中的记忆、涌现和符号处理

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2025-05-16T00:00:00Z
直觉技能的涌现

直觉是原始驱动交汇的信号,技能在机制交集处形成,尤其在矛盾压力下。明斯基的分层思维模型表明,直觉源于低层次的模式共识。理解机制重叠有助于提升智能和设计更有效的系统。

直觉技能的涌现

DEV Community DEV Community · 2025-05-11T17:53:17Z
GPT-5涌现能力可预测?UC伯克利仅使用当前模型检查点预测未来模型

LLM扩展面临的挑战在于对涌现能力的理解不足。UC伯克利的研究表明,通过微调模型可以预测涌现能力,并发现微调可以提前识别涌现点。研究使用四个NLP基准验证了涌现定律,结果显示微调数据量影响涌现偏移,能够准确预测涌现点。

GPT-5涌现能力可预测?UC伯克利仅使用当前模型检查点预测未来模型

机器之心 机器之心 · 2024-11-30T05:44:00Z

本文探讨了大规模语言模型(LLMs)中归纳行为的演变,发现LLMs对微小扰动的反应既稳健又普遍,揭示了模型中间层归纳行为的逐步涌现。

大规模语言模型中的普遍响应与归纳的涌现

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-11-11T00:00:00Z

该研究探讨了深度学习模型,特别是transformers在基本数学运算中的泛化能力。研究发现,模型在未见过的输入上能够成功泛化,但在复杂情况下表现不佳。通过引入新架构和优化方法,旨在提高模型的准确性和计算效率,并揭示统计偏差对模型性能的影响。

重复示例的涌现特性

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-10-09T00:00:00Z

《代码整洁之道》第12章讨论了通过基本设计原则实现整洁软件。涌现是指复杂功能从简单规则中产生。该章强调四条简单设计规则:通过所有测试、揭示意图、无重复、最少类和方法。这些原则使代码易于维护和扩展,示例包括单元测试、清晰命名、消除重复和单一职责原则。

理解整洁代码:涌现 ⚡️

DEV Community DEV Community · 2024-10-07T06:17:12Z

清华大学和智谱AI团队的研究发现,大模型的涌现能力与预训练损失的关系比模型参数更紧密。解锁涌现能力的关键在于优化预训练损失至关键值以下。

大模型的涌现能力与预训练loss的关系比模型参数更紧密 - 蝈蝈俊

蝈蝈俊 蝈蝈俊 · 2024-04-28T02:16:00Z
「百模大战」之后,预见行业新生态|AI 先行者沙龙圆桌实录

在知乎举办的「破晓 · 知乎 AI 先行者沙龙」上,讨论了大模型的涌现和幻觉问题。与会者认为,涌现的存在与否取决于观察的角度,而幻觉是大模型的创造力和推理能力的体现。讨论了如何让开发者更好地管理大模型的预期,以及如何打开大语言模型的黑盒子,让用户了解模型的能力和局限性。同时,讨论了小模型在垂直领域的应用和大模型走向AGI的可能性。

「百模大战」之后,预见行业新生态|AI 先行者沙龙圆桌实录

知乎每日精选 知乎每日精选 · 2024-01-10T06:33:36Z
大模型的涌现能力是幻象?

研究人员发现,大规模语言模型的涌现能力是由于衡量指标的选择,而非模型行为的根本性变化。非线性或不连续的衡量标准会导致明显的涌现能力,而线性或连续的度量标准会导致模型性能的平滑、连续、可预测的变化。涌现能力的消失与指标选择相关,不是大规模模型的基本属性。该论文于去年4月底发布,并获得最佳论文奖。

大模型的涌现能力是幻象?

Finisky Garden Finisky Garden · 2024-01-05T17:15:46Z

本文综述了因果出现的定量理论和应用的最新进展,讨论了如何量化因果出现和在数据中识别它。因果出现的识别需要使用机器学习技术,建立因果出现和人工智能之间的联系。最后讨论了潜在应用和未来展望。

复杂系统中的涌现和因果性:关于因果涌现及相关定量研究的调查

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2023-12-28T00:00:00Z

心灵哲学和认知科学是当前最活跃的哲学运动,神经科学的进步重新定义了一些问题。涌现与还原论是争论点,涌现可分为弱涌现和强涌现,意识和自由意志是例子。科学家更关注实践中的可行性,不太关心原则上能做什么。科学界的分歧大多是哲学上的迷思。

涌现是当今哲学界争论最激烈的话题

极道 极道 · 2023-12-12T22:36:00Z

本文探讨了语言对人类推理能力的影响,LLM是一种可以预测复杂语言的智能形式。虽然LLM缺乏意义和自我意识等属性,但随着模型规模的不断扩大,LLM可能会挑战我们对智能的基本信念。人工智能需要在更深层次上抽象和理解概念。

思想本身就是一种语言的涌现?

极道 极道 · 2023-10-22T23:56:00Z

本文介绍了LLM大语言模型应用的特点和参考架构,包括上下文学习的设计模式和三个阶段:数据预处理/嵌入、提示构建/检索和提示执行/推理。还讨论了矢量数据库的选择和开源工具的使用,以及LLM应用程序的托管解决方案。

大语言模型带来的新兴涌现架构

极道 极道 · 2023-08-25T03:50:00Z

本文综合了皮尔斯、德勒兹、亚历山大和博姆的观点,揭示了创造力的动态性、转化性、关联性和涌现性。这种综合观点强调了创造力的复杂性,与习惯性思维区分开来,为未来的研究和创新战略提供了指导,为培养创造力的文化打开了大门。通过探索这些维度的相互作用,我们可以深入了解创造过程的机制,并将其应用于不同领域。这种综合观点提供了对创造力的全面、深入和动态的理解,为未来的研究开辟了新的方向。

什么创造力?创造力是一个动态的、变革的和相互关联的涌现过程

极道 极道 · 2023-07-17T02:59:00Z

预训练的人工智能模型代表了自互联网以来最重要的软件架构变化。本文介绍了整合大语言模型LLM的参考架构,包括上下文学习的设计模式、数据预处理和嵌入、提示构建和检索、以及提示语的执行和推理。

大语言模型LLM的涌现架构

极道 极道 · 2023-07-01T08:57:00Z
新浪张俊林:大语言模型的涌现能力——现象与解释

顿悟现象是指模型在学习任务时,经历记忆期、平台期和泛化期,突然出现学习规律的现象。研究表明,顿悟现象本质上是在学习输入数字的表征。目前,尚未明确指出顿悟现象与大型语言模型的涌现现象之间的关系,但两者存在某些关联。

新浪张俊林:大语言模型的涌现能力——现象与解释

我爱自然语言处理 我爱自然语言处理 · 2023-04-28T06:22:49Z
  • <<
  • <
  • 1 (current)
  • 2
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码