小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
在15分钟内使用Ollama运行本地AI模型

本文介绍了如何在15分钟内使用Ollama在本地运行小型语言模型。用户只需安装Ollama、下载模型(如Llama 3.2 3B)并开始聊天。Ollama通过量化技术减少内存占用,确保模型高效运行,保障数据安全和隐私。

在15分钟内使用Ollama运行本地AI模型

MachineLearningMastery.com
MachineLearningMastery.com · 2026-07-16T12:25:41Z
一分钟读论文:《Procedural Memory Distillation:Agent经验复用的程序性记忆蒸馏》

Semih Yavuz等人的研究提出了一种新方法,将过程性信号转化为可复用的程序性记忆,从而提升语言模型的性能。该方法通过三级抽象和协同进化,确保模型在推理时无需外部记忆模块,减少延迟并提高效率。实验结果表明,PMD在LIVECODEBENCH基准上相较于传统方法有显著提升,并在不同难度问题上表现一致。

一分钟读论文:《Procedural Memory Distillation:Agent经验复用的程序性记忆蒸馏》

Micropaper
Micropaper · 2026-07-16T00:00:00Z

本文介绍了开源库“outlines”,旨在提高大型语言模型(LLM)生成结构化输出的准确性。通过示例,展示了如何进行情感分析、生成符合Pydantic模型的JSON对象,以及为REST API生成有效的JSON负载。outlines通过限制生成过程中的非法符号,确保输出符合预期格式,减少常见错误和不确定性。

使用轮廓进行结构化语言模型生成

KDnuggets
KDnuggets · 2026-07-13T14:00:03Z
AI论文评审:自一致性提升语言模型中的链式思维推理

自一致性是一种新型解码策略,通过生成多个独立推理路径并选择最一致的答案,显著提升大型语言模型的推理能力。该方法克服了传统链式思维的局限,允许模型在选择答案前探索多种可能性,从而提高准确性。实验表明,自一致性在算术、常识和符号推理任务中表现优异,证明更好的推理不一定依赖于更大的模型或额外的训练。

AI论文评审:自一致性提升语言模型中的链式思维推理

freeCodeCamp.org
freeCodeCamp.org · 2026-07-08T18:55:53Z
语言模型中的全局工作空间:Anthropic最新可解释性发现

Anthropic的研究揭示了Claude语言模型中的“J空间”,这是一个激活少量概念以进行推理的小型工作区。研究发现Claude能够在心中记住概念而不影响输出,并能识别“虚假”标签,显示其对监控的意识。删除J空间后,Claude在复杂推理中的表现显著下降。这一发现对AI的可解释性和安全性具有重要意义,可能影响未来的AI对齐和隐私讨论。

语言模型中的全局工作空间:Anthropic最新可解释性发现

极道
极道 · 2026-07-06T23:53:00Z
极简方案刷新扩散模型推理纪录,阿里清华论文入选ICML杰出论文

阿里巴巴与清华大学合作的论文《灵活性陷阱》入选ICML杰出论文,质疑扩散语言模型任意顺序生成的价值。研究表明,任意顺序生成会导致推理能力下降,提出的“JustGRPO”方法强制模型从左到右生成,显著提高推理效果。

极简方案刷新扩散模型推理纪录,阿里清华论文入选ICML杰出论文

量子位
量子位 · 2026-07-06T10:33:45Z
连续扩散口语语言模型的缩放特性

本文探讨了连续扩散口语语言模型(CD SLM)的可行性,指出其在性能上优于离散自回归模型。通过音素詹森-香农散度(pJSD)指标的引入,分析显示CD SLM在验证损失和pJSD上遵循缩放规律。尽管其生成多语种情感语音的能力增强,实现长篇连贯性仍面临挑战。

连续扩散口语语言模型的缩放特性

Apple Machine Learning Research
Apple Machine Learning Research · 2026-07-06T00:00:00Z
残余上下文扩散语言模型

残余上下文扩散语言模型(RCD)通过回收被丢弃的令牌,提升了扩散大语言模型(dLLMs)的效率。RCD将这些令牌转化为上下文残差,注入下一步去噪中。该方法在多个基准测试中提高了5-10个百分点的准确率,特别是在AIME任务中,准确率几乎翻倍,去噪步骤减少4-5倍。

残余上下文扩散语言模型

Apple Machine Learning Research
Apple Machine Learning Research · 2026-07-02T00:00:00Z
学习扩散语言模型的解码策略

本文探讨了扩散语言模型(dLLMs)的采样策略,提出通过强化学习训练采样过程,以提高解码效率和样本质量。研究表明,基于单层变换器的轻量级策略在全扩散设置中优于传统启发式方法,尤其在代码生成任务中表现出色。

学习扩散语言模型的解码策略

Apple Machine Learning Research
Apple Machine Learning Research · 2026-07-02T00:00:00Z
关于强化学习微调视觉语言模型的鲁棒性与思维连贯性

强化学习微调的视觉语言模型在视觉推理基准上有所提升,但仍受到视觉基础薄弱、幻觉和文本线索过度依赖的影响。简单的文本扰动显著降低了模型的鲁棒性和信心。开放源代码模型在连贯性方面表现不佳,而封闭模型则更为稳健。微调提高了基准准确性,但可能削弱推理的可靠性。建议采用关注忠实度的奖励机制,以改善推理的准确性和鲁棒性。

关于强化学习微调视觉语言模型的鲁棒性与思维连贯性

Apple Machine Learning Research
Apple Machine Learning Research · 2026-07-02T00:00:00Z
为什么意图预测需要超越传统语言模型(LLM)

Yobi的CTO Frank Portman讨论了传统语言模型(LLM)在预测人类行为方面的局限性。他们采用变换器和图神经网络构建行为基础模型,以实现高效的个性化决策,并保护消费者数据隐私。Yobi专注于广告技术和市场营销,致力于个性化推荐和风险管理。

为什么意图预测需要超越传统语言模型(LLM)

Stack Overflow Blog
Stack Overflow Blog · 2026-06-30T07:40:00Z

本文介绍了如何在苹果硅芯片的Mac上使用MLX框架进行本地微调语言模型,避免云计算费用。MLX是苹果机器学习团队开发的开源库,支持多种开放模型的文本生成和微调。用户需准备数据集并使用LoRA适配器进行训练,过程简单高效,最终可在本地测试和服务微调后的模型。

在苹果硅芯片上使用MLX进行语言模型的微调

KDnuggets
KDnuggets · 2026-06-26T15:00:17Z
大型语言模型与小型语言模型

小型和大型语言模型因设计约束不同而异。小型模型适用于设备,内存和延迟有限;大型模型在数据中心运行,资源更充裕。两者基于变换器架构,小型模型通过数据质量、知识蒸馏和过度训练提高效率。生产系统通常结合两者,利用小型模型处理常规请求,大型模型应对复杂任务。

大型语言模型与小型语言模型

ByteByteGo Newsletter
ByteByteGo Newsletter · 2026-06-24T15:31:30Z
星载推理:一颗卫星正运行谷歌Gemma 3视觉语言模型

YAM-9卫星首次搭载谷歌Gemma 3视觉语言模型,实现星载推理,能够自主识别目标并处理数据,减轻地面分析负担,提高卫星工作效率,未来有望在太空部署更大规模的AI基础设施。

星载推理:一颗卫星正运行谷歌Gemma 3视觉语言模型

极道
极道 · 2026-06-21T02:08:00Z
在VS Code中使用自带语言模型密钥

在2026年微软Build大会上,VS Code展示了使用本地模型进行日志分析的功能,提升了工作灵活性。用户可以通过“自带语言模型”(BYOK)功能添加不同提供商的模型,支持多种工作流程。语言模型编辑器允许用户管理和选择模型,从而增强聊天和代理工作流的选择,提升开发效率。

在VS Code中使用自带语言模型密钥

Visual Studio Code - Code Editing. Redefined.
Visual Studio Code - Code Editing. Redefined. · 2026-06-18T00:00:00Z
Zyphra发布Zamba2-VL:混合Mamba2-Transformer视觉语言模型

Zyphra发布了Zamba2-VL系列开放视觉语言模型,包含12亿、27亿和70亿参数。该模型采用混合SSM-Transformer架构,支持图像与文本的理解与关联,推理速度快,适用于文档提取和库存盘点等场景。尽管在知识推理方面表现不如大型模型,但在视觉计数和文档理解上具有优势。模型权重和推理代码已公开。

Zyphra发布Zamba2-VL:混合Mamba2-Transformer视觉语言模型

实时互动网
实时互动网 · 2026-06-15T02:50:06Z
AI 博客问题挑战

文章讨论了作者对人工智能(AI)模型的看法,特别是深度学习和语言模型的演变。作者认为AI在提升生产力方面具有潜力,但也对其对人类福祉的影响表示担忧。尽管存在疑虑,作者对AI的未来持乐观态度,期待人类能找到解决潜在问题的方法。

AI 博客问题挑战

失眠海峡
失眠海峡 · 2026-06-14T14:20:37Z
什么是AI语音开发?从技术链路到落地场景的完整拆解

AI语音开发是构建实时语音交互系统的过程,涉及语音识别、语言模型和语音合成等技术。核心链路包括用户语音输入、ASR识别、LLM理解与生成、TTS合成和实时传输。开发的难点在于降低端到端延迟,确保对话流畅。可选择全自研或使用一体化平台,以适应不同场景需求。评估方案时需关注延迟、准确率、灵活性和成本等维度。

什么是AI语音开发?从技术链路到落地场景的完整拆解

实时互动网
实时互动网 · 2026-06-11T06:57:24Z
OpenCV 5.0 发布,重写了 DNN 引擎,并内置了 LLM 和 VLM 支持

OpenCV 5.0于2026年6月6日发布,新增深度神经网络引擎重写、80% ONNX覆盖率和内置大型语言模型支持等功能,并针对多种硬件进行了优化,计划实现原生GPU支持。

OpenCV 5.0 发布,重写了 DNN 引擎,并内置了 LLM 和 VLM 支持

实时互动网
实时互动网 · 2026-06-08T02:02:17Z
语言模型动摇认知根基:世界模型一开始就命名错了

大语言模型的成功挑战了传统世界模型理论,认为智能系统通过学习数据中的规律性表现智能,而非重建现实世界。这一观点改变了对知识的理解,强调知识是一种生成能力而非静态存储。同时,人类对外部世界的信念可能受到语言结构的影响,语言塑造了我们对现实的理解。

语言模型动摇认知根基:世界模型一开始就命名错了

极道
极道 · 2026-06-06T00:08:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码