小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
大语言模型发展史:从猜词游戏到GPT智能涌现

大语言模型(LLM)自1980年代的分布式表示发展至2017年的Transformer架构,展示了在大规模数据和算力下简单规则的有效性。通过自回归框架,模型学习预测下一个词,逐步掌握语言规律。注意力机制和生成式预训练提升了模型能力,使其在无监督学习中吸收大量知识。对齐技术确保模型输出符合人类价值观,最终形成智能对话助手。

大语言模型发展史:从猜词游戏到GPT智能涌现

极道
极道 · 2026-07-16T03:29:00Z
第三次科学转变:拒绝生物工程化,正视生物涌现

生物圈的涌现与工程思维截然不同,涌现是系统自我创造新功能,而工程是预设目标并执行。科学应承认无法完全掌控生物圈,强调参与而非控制。生物创新在出现前并不存在,挑战传统科学观念。人类应适应生物圈的自我创造,而非试图用工程思维解决所有问题。

第三次科学转变:拒绝生物工程化,正视生物涌现

极道
极道 · 2026-07-04T22:54:00Z
涌现(emergence) | Tiki Taka 和德国足协的双向奔赴

文章探讨了德国足球的自组织与涌现概念,分析了Tiki Taka战术对德国队的影响。指出德国足球改革的失败在于培养“万金油”球员,而非特化人才。尽管德国队在2014年夺冠,但其成功依赖于传统战术与新体系的结合。

涌现(emergence) | Tiki Taka 和德国足协的双向奔赴

阿掖山:一个博客
阿掖山:一个博客 · 2026-06-30T00:00:00Z
一分钟读论文:《思想的经济:Agent经济交互中的多智能体智能涌现》

多位学者在论文《Economy of Minds》中探讨了用经济机制替代传统协调,以促进多智能体系统自发涌现集体智能。通过拍卖竞争、支付交换、财富积累和经济进化四种机制,研究表明简单的经济信号能够驱动去中心化的信用分配,形成有效的Agent协作。实验结果显示,经济机制使得弱Agent群体在多个任务上超越强单体,强调了群体智能的自发性和机制设计的重要性。

一分钟读论文:《思想的经济:Agent经济交互中的多智能体智能涌现》

Micropaper
Micropaper · 2026-06-05T00:00:00Z

本研究解决了对上下文学习(ICL)机制的争议,提出了一套新的研究任务和方法。通过系统性分析,结果显示ICL超越了单纯的“记忆”,也并非完全是独立的符号算法实现。这一发现为模型开发者提供了提升模型性能的见解,并为AI安全实践者提供了更为明智的指导基础。

幻觉还是算法?探讨在上下文学习中的记忆、涌现和符号处理

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-16T00:00:00Z
直觉技能的涌现

直觉是原始驱动交汇的信号,技能在机制交集处形成,尤其在矛盾压力下。明斯基的分层思维模型表明,直觉源于低层次的模式共识。理解机制重叠有助于提升智能和设计更有效的系统。

直觉技能的涌现

DEV Community
DEV Community · 2025-05-11T17:53:17Z
GPT-5涌现能力可预测?UC伯克利仅使用当前模型检查点预测未来模型

LLM扩展面临的挑战在于对涌现能力的理解不足。UC伯克利的研究表明,通过微调模型可以预测涌现能力,并发现微调可以提前识别涌现点。研究使用四个NLP基准验证了涌现定律,结果显示微调数据量影响涌现偏移,能够准确预测涌现点。

GPT-5涌现能力可预测?UC伯克利仅使用当前模型检查点预测未来模型

机器之心
机器之心 · 2024-11-30T05:44:00Z

本文探讨了大规模语言模型(LLMs)中归纳行为的演变,发现LLMs对微小扰动的反应既稳健又普遍,揭示了模型中间层归纳行为的逐步涌现。

大规模语言模型中的普遍响应与归纳的涌现

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-11T00:00:00Z

该研究探讨了深度学习模型,特别是transformers在基本数学运算中的泛化能力。研究发现,模型在未见过的输入上能够成功泛化,但在复杂情况下表现不佳。通过引入新架构和优化方法,旨在提高模型的准确性和计算效率,并揭示统计偏差对模型性能的影响。

重复示例的涌现特性

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-09T00:00:00Z

《代码整洁之道》第12章讨论了通过基本设计原则实现整洁软件。涌现是指复杂功能从简单规则中产生。该章强调四条简单设计规则:通过所有测试、揭示意图、无重复、最少类和方法。这些原则使代码易于维护和扩展,示例包括单元测试、清晰命名、消除重复和单一职责原则。

理解整洁代码:涌现 ⚡️

DEV Community
DEV Community · 2024-10-07T06:17:12Z

清华大学和智谱AI团队的研究发现,大模型的涌现能力与预训练损失的关系比模型参数更紧密。解锁涌现能力的关键在于优化预训练损失至关键值以下。

大模型的涌现能力与预训练loss的关系比模型参数更紧密 - 蝈蝈俊

蝈蝈俊
蝈蝈俊 · 2024-04-28T02:16:00Z
「百模大战」之后,预见行业新生态|AI 先行者沙龙圆桌实录

在知乎举办的「破晓 · 知乎 AI 先行者沙龙」上,讨论了大模型的涌现和幻觉问题。与会者认为,涌现的存在与否取决于观察的角度,而幻觉是大模型的创造力和推理能力的体现。讨论了如何让开发者更好地管理大模型的预期,以及如何打开大语言模型的黑盒子,让用户了解模型的能力和局限性。同时,讨论了小模型在垂直领域的应用和大模型走向AGI的可能性。

「百模大战」之后,预见行业新生态|AI 先行者沙龙圆桌实录

知乎每日精选
知乎每日精选 · 2024-01-10T06:33:36Z
大模型的涌现能力是幻象?

研究人员发现,大规模语言模型的涌现能力是由于衡量指标的选择,而非模型行为的根本性变化。非线性或不连续的衡量标准会导致明显的涌现能力,而线性或连续的度量标准会导致模型性能的平滑、连续、可预测的变化。涌现能力的消失与指标选择相关,不是大规模模型的基本属性。该论文于去年4月底发布,并获得最佳论文奖。

大模型的涌现能力是幻象?

Finisky Garden
Finisky Garden · 2024-01-05T17:15:46Z

本文综述了因果出现的定量理论和应用的最新进展,讨论了如何量化因果出现和在数据中识别它。因果出现的识别需要使用机器学习技术,建立因果出现和人工智能之间的联系。最后讨论了潜在应用和未来展望。

复杂系统中的涌现和因果性:关于因果涌现及相关定量研究的调查

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-12-28T00:00:00Z

心灵哲学和认知科学是当前最活跃的哲学运动,神经科学的进步重新定义了一些问题。涌现与还原论是争论点,涌现可分为弱涌现和强涌现,意识和自由意志是例子。科学家更关注实践中的可行性,不太关心原则上能做什么。科学界的分歧大多是哲学上的迷思。

涌现是当今哲学界争论最激烈的话题

极道
极道 · 2023-12-12T22:36:00Z

本文探讨了语言对人类推理能力的影响,LLM是一种可以预测复杂语言的智能形式。虽然LLM缺乏意义和自我意识等属性,但随着模型规模的不断扩大,LLM可能会挑战我们对智能的基本信念。人工智能需要在更深层次上抽象和理解概念。

思想本身就是一种语言的涌现?

极道
极道 · 2023-10-22T23:56:00Z

本文介绍了LLM大语言模型应用的特点和参考架构,包括上下文学习的设计模式和三个阶段:数据预处理/嵌入、提示构建/检索和提示执行/推理。还讨论了矢量数据库的选择和开源工具的使用,以及LLM应用程序的托管解决方案。

大语言模型带来的新兴涌现架构

极道
极道 · 2023-08-25T03:50:00Z

本文综合了皮尔斯、德勒兹、亚历山大和博姆的观点,揭示了创造力的动态性、转化性、关联性和涌现性。这种综合观点强调了创造力的复杂性,与习惯性思维区分开来,为未来的研究和创新战略提供了指导,为培养创造力的文化打开了大门。通过探索这些维度的相互作用,我们可以深入了解创造过程的机制,并将其应用于不同领域。这种综合观点提供了对创造力的全面、深入和动态的理解,为未来的研究开辟了新的方向。

什么创造力?创造力是一个动态的、变革的和相互关联的涌现过程

极道
极道 · 2023-07-17T02:59:00Z

预训练的人工智能模型代表了自互联网以来最重要的软件架构变化。本文介绍了整合大语言模型LLM的参考架构,包括上下文学习的设计模式、数据预处理和嵌入、提示构建和检索、以及提示语的执行和推理。

大语言模型LLM的涌现架构

极道
极道 · 2023-07-01T08:57:00Z
新浪张俊林:大语言模型的涌现能力——现象与解释

顿悟现象是指模型在学习任务时,经历记忆期、平台期和泛化期,突然出现学习规律的现象。研究表明,顿悟现象本质上是在学习输入数字的表征。目前,尚未明确指出顿悟现象与大型语言模型的涌现现象之间的关系,但两者存在某些关联。

新浪张俊林:大语言模型的涌现能力——现象与解释

我爱自然语言处理
我爱自然语言处理 · 2023-04-28T06:22:49Z
  • <<
  • <
  • 1 (current)
  • 2
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码