小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本文介绍了大语言模型(LLMs)的预训练和微调概念。预训练通过大量数据学习语言基础,而微调则是在此基础上针对特定任务进行适应。微调分为完全微调和参数高效微调(PEFT),后者更节省内存且风险较低。尽管微调有效,但并非唯一解决方案,改进提示或检索增强生成(RAG)有时更为合适。

微调入门解析(预训练模型如何学习新技能)

KDnuggets
KDnuggets · 2026-07-10T14:00:32Z
SpaceXAI发布Grok 4.5:高性价比挑战Opus4.8

SpaceXAI发布的Grok 4.5是一款高性价比的大语言模型,专注于代码编写和办公软件应用。其低廉的API价格和高效的token使用使其在市场中脱颖而出,尤其在处理Excel和PPT任务上表现出色。尽管面临政治争议和欧盟监管挑战,Grok 4.5仍为预算有限的开发者提供了吸引力。

SpaceXAI发布Grok 4.5:高性价比挑战Opus4.8

极道
极道 · 2026-07-08T22:46:00Z

本文探讨了如何将开源语言模型转化为可用的API服务,涵盖模型推理、请求调度和显存管理等技术细节。强调了LLM推理过程,包括输入文本和生成下一个token的预测,介绍了模型生命周期、文件结构、量化技术及其对显存的影响,并讨论了服务框架选择和并发处理的重要性。

大语言模型推理服务知识梳理

Fernweh
Fernweh · 2026-07-08T13:39:46Z
NVIDIA 发布 Audex (Nemotron-Labs-Audex-30B-A3B):一种统一的音频-文本大语言模型

NVIDIA 发布了 Audex,这是一个统一的音频-文本大型语言模型,具备理解和生成音频及语音的能力,同时保持文本智能。Audex 采用 30 亿参数的 MoE 结构,设计简洁,避免了多模态模型的性能退化,在文本和音频任务中表现优异,尤其在语音识别领域领先。尽管存在商业许可限制和音频理解能力不足等缺点,Audex 仍在多项任务中表现出色。

NVIDIA 发布 Audex (Nemotron-Labs-Audex-30B-A3B):一种统一的音频-文本大语言模型

实时互动网
实时互动网 · 2026-07-08T02:20:40Z
八大开源模型推理路径对比:GLM DeepSeek Qwen

八个主流大语言模型在解答同一道概率题时表现出显著的思维路径差异。GLM 5.2表现自信,修正较少;而DeepSeek V4 Pro则频繁自我怀疑,思维过程复杂。可视化树状图显示了模型的认知风格,指出自我怀疑与模型性能之间的关系尚不明确,需进一步研究。

八大开源模型推理路径对比:GLM DeepSeek Qwen

极道
极道 · 2026-07-07T02:58:00Z
Claude Code 焚诀(一):六种心智模型 - cxuanAI

本文介绍了Claude Code的核心概念和结构。Claude Code是一个基于大语言模型的开发环境,采用Agentic CLI,能够根据自然语言指令动态调用工具。其核心由查询循环、工具系统、任务、状态、记忆和钩子六个抽象组成,强调实时反馈和权限管理,以确保系统安全和高效。

Claude Code 焚诀(一):六种心智模型 - cxuanAI

程序员cxuan
程序员cxuan · 2026-07-07T02:32:00Z
别争了!香农老婆,才是世界上第一个大语言模型

香农与妻子贝蒂的实验展示了语言的可预测性与信息压缩之间的关系。贝蒂通过猜字母帮助香农记录可预测的部分,从而实现信息压缩。香农研究了语言的熵,揭示了信息量与预测能力的联系。大语言模型通过学习语言规律,能够有效预测下一个符号,体现了智能的特征。

别争了!香农老婆,才是世界上第一个大语言模型

量子位
量子位 · 2026-07-05T03:51:37Z

一项研究探讨了思维链(CoT)训练在大语言模型中的作用,发现其主要提升了提示词动作的质量,而非推理能力。模型在训练中更依赖提示词,导致注意力和梯度集中于提示部分。研究提出了一种干预方法,通过选择性掩盖动作令牌监督,增强模型的域外泛化能力,使其在新任务中表现更佳。

一分钟读论文:《Where Do CoT Training Gains Land in LLM based Agents?》

Micropaper
Micropaper · 2026-07-04T00:00:00Z
WebRTC在语音AI中的应用:2026年传输层的工作原理及其发展趋势

语音AI的传输技术主要依赖WebRTC,因其低延迟和实时音频处理能力。虽然WebSocket和WebTransport是替代方案,但不如WebRTC适合语音AI。文章探讨了不同传输方式的优缺点,并讨论了如何优化WebRTC以适应大语言模型(LLM)。未来,语音AI将更加关注延迟、音频质量和用户体验,推动技术进步。

WebRTC在语音AI中的应用:2026年传输层的工作原理及其发展趋势

实时互动网
实时互动网 · 2026-07-02T10:00:45Z
什么是会话式 AI?聊天机器人的核心技术拆解

会话式AI利用大语言模型和语音识别技术实现自然对话。预计到2028年,60%的消费者应用将内置此技术。即构科技的ZEGO AI Agent深度整合实时音视频网络,提供低延迟的语音互动,核心技术包括语音识别、语言模型和检索增强生成,确保对话流畅准确。

什么是会话式 AI?聊天机器人的核心技术拆解

实时互动网
实时互动网 · 2026-06-29T08:09:20Z
AI 聊天机器人与传统客服机器人有什么区别?

AI聊天机器人与传统客服机器人的主要区别在于技术架构。AI聊天机器人基于大语言模型,能够理解意图和情境,支持多轮对话,客户满意度高达85%-95%。而传统机器人依赖关键词匹配,回答能力有限,无法处理复杂问题。尽管AI聊天机器人的初期成本较高,但长期来看可降低维护费用,提升服务质量。

AI 聊天机器人与传统客服机器人有什么区别?

实时互动网
实时互动网 · 2026-06-29T07:48:20Z
大语言模型的基石:Transformer 入坑笔记(三) - 注意力机制和 Transformer

本文介绍了Transformer模型的注意力机制及其背景。传统的卷积神经网络(CNN)和循环神经网络(RNN)在处理长距离依赖时存在局限,而Transformer通过自注意力机制解决了这些问题。模型使用位置编码来区分词序,核心是通过Query、Key和Value计算注意力权重。多头注意力允许模型并行处理不同关系,增强表达能力。混合专家模型(MoE)通过选择部分专家参与计算,提高了效率和性能。

大语言模型的基石:Transformer 入坑笔记(三) - 注意力机制和 Transformer

I'm OWenT
I'm OWenT · 2026-06-28T01:25:45Z
DeepSeek开源DSpark:速度飙升6倍质量不变

DeepSpec发布的DSpark算法通过引入“秘书”模型,将大语言模型的生成速度提升了6倍,同时保持输出质量不变。DSpark结合并行生成和顺序依赖,优化了计算效率,减轻了GPU负担。该框架已开源,适用于高并发场景,显著提升用户体验。

DeepSeek开源DSpark:速度飙升6倍质量不变

极道
极道 · 2026-06-27T09:45:00Z
从简单助手到强生产力,香港大学黄超团队的AI Agent落地攻坚实录

近年来,大语言模型向自主智能体转变,OpenClaw等成为重要里程碑。香港大学黄超教授在北京智源大会上探讨了AI Agent的范式变革,强调轻量化和自进化机制,提出CLI作为AI原生交互方式,推动Agent从助手向数字劳动力转型。

从简单助手到强生产力,香港大学黄超团队的AI Agent落地攻坚实录

HyperAI超神经
HyperAI超神经 · 2026-06-26T06:57:45Z
OpenAI与博通推出优化大语言模型推理的芯片

OpenAI与博通联合推出Jalapeño智能处理器,旨在提升大语言模型的推理性能。该处理器在九个月内完成设计与生产,优化了计算、内存和网络资源,预计将显著提高每瓦特性能,支持未来多代AI模型,推动AI更快、更可靠和更普及。

OpenAI与博通推出优化大语言模型推理的芯片

OpenAI
OpenAI · 2026-06-24T06:00:00Z
OpenAI and Broadcom unveil LLM-optimized inference chip

OpenAI与Broadcom推出了名为Jalapeño的定制AI芯片,专为大语言模型推理设计,旨在提升AI系统的性能和效率。

OpenAI and Broadcom unveil LLM-optimized inference chip

mongona news
mongona news · 2026-06-24T06:00:00Z
基于Gemini 1.5长上下文能力,谷歌对话式医疗系统AMIE在100例多次就诊场景中达到全科医师的推理水平

大语言模型在医疗领域的应用逐渐成熟,尤其在辅助诊断和管理推理方面。研究显示,谷歌的AMIE系统在多次就诊的管理推理中优于全科医生,能够有效整合临床指南和药物知识,提高治疗方案的质量和准确性。这项研究强调了管理推理在真实临床中的重要性,推动医疗AI从辅助诊断向辅助管理转变。

基于Gemini 1.5长上下文能力,谷歌对话式医疗系统AMIE在100例多次就诊场景中达到全科医师的推理水平

HyperAI超神经
HyperAI超神经 · 2026-06-22T10:24:22Z
杨立昆炮轰马斯克xAI失败并警告行业泡沫风险

杨立昆批评马斯克的xAI已算失败,因核心团队流失和人才争夺战失利。他警告AI行业面临泡沫风险,认为大语言模型无法实现真正的智能,提倡“世界模型”作为未来方向。他的新公司AMI Labs专注于此,试图颠覆现有技术路线。

杨立昆炮轰马斯克xAI失败并警告行业泡沫风险

极道
极道 · 2026-06-22T02:32:00Z

模型上下文协议(MCP)标准化了大语言模型(LLM)与外部工具和数据的连接,解决了安全性和工具供应链问题。MCP采用JSON-RPC 2.0,支持stdio和Streamable HTTP两种传输方式,认证基于OAuth 2.1,确保凭据隔离,防止越权调用和参数注入。此外,MCP强调安全措施,如Origin验证和TLS加密,以防止网络攻击和会话劫持。

【Agent 身份与安全】MCP 架构与安全基线

土法炼钢兴趣小组的博客
土法炼钢兴趣小组的博客 · 2026-06-18T00:00:00Z

一名开发者在LinkedIn上收到虚假招聘信息,诱导其运行npm install,导致后门代码被执行,从而可远程控制其电脑。作者建议开发者使用只读工具审查代码,并批评LinkedIn的身份验证机制。文章还提到本地大语言模型的进展、SpaceX收购AI助手Cursor的计划,以及Meta公司面临的工程文化危机。

2026 06 17 HackerNews

介绍 on SuperTechFans
介绍 on SuperTechFans · 2026-06-16T23:26:29Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码