小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
沉浸式翻译 immersive translate
英伟达RTX Spark笔记本首发实测,我实现了WorkBuddy额度自由

英伟达推出首款搭载RTX Spark超级芯片的Windows笔记本华硕ProArt创16,售价28999元起。该机采用ARM CPU、Blackwell GPU与统一内存,可本地运行270亿参数大模型,续航约1小时15分钟。实测AI推理流畅,配合WorkBuddy可下载本地模型。适合需本地算力的开发者,普通用户暂无需为此换机。

英伟达RTX Spark笔记本首发实测,我实现了WorkBuddy额度自由

爱范儿 爱范儿 · 2026-10-16T12:08:15Z
在 Mac Studio 上使用 MLX 和 RDMA 进行本地与分布式大语言模型推理

苹果介绍在 Mac Studio 上通过 MLX 本地运行大模型。M5 Ultra 的 GPU 神经加速器使首字延迟较 M3 Ultra 快 4.6 倍,生成速度提升 1.6 倍,功耗约 300 瓦。借助 Thunderbolt 5 上的 RDMA,多台 Mac 可进行流水线或张量并行,四台集群运行近万亿参数的 Muse Spark Open 可达每秒 36 个 token,并支持本地智能体应用。

在 Mac Studio 上使用 MLX 和 RDMA 进行本地与分布式大语言模型推理

Apple Machine Learning Research Apple Machine Learning Research · 2026-10-15T00:00:00Z
把千亿模型装进笔记本,Windows 终于要反击 Mac 了

联想在IFA 2026发布Yoga Pro 9n笔记本,搭载英伟达RTX Spark芯片,配备最高128GB统一内存,可本地运行千亿参数大模型,支持100万token上下文。此举将AI算力带入Windows生态,与苹果Mac系列竞争。联想还推出ThinkCentre X Ultra等产品,推动AI Agent从云端转向本地设备,使电脑成为个人AI算力节点。

把千亿模型装进笔记本,Windows 终于要反击 Mac 了

爱范儿 爱范儿 · 2026-09-07T10:36:12Z
苹果没开发布会,直接上线了 512 GB 的 Mac Studio

苹果未开发布会直接上线新款 Mac Studio,顶配 512GB 统一内存回归,可本地运行数百 B 参数大模型。M5 Ultra 带宽达 1.2TB/s,SSD 升级 PCIe 6.0。其价值不在省订阅费,而在数据主权,适合法律、医疗等敏感场景,是普通人可正规购买的大容量本地 AI 一体机。

苹果没开发布会,直接上线了 512 GB 的 Mac Studio

老冯云数 on VONNG 老冯云数 on VONNG · 2026-08-25T00:00:00Z
NIGHTRUN – 无需操作系统,用 U 盘启动的的本地大模型客户端

NIGHTRUN是一个极客项目,可直接从U盘通过UEFI启动进入本地大模型对话界面,无需操作系统,支持Llama等模型,纯CPU运行。开发者称其为技术炫技,实际价值有限。若未来支持GPU或内嵌大模型的CPU普及,可能更具实用性。

NIGHTRUN – 无需操作系统,用 U 盘启动的的本地大模型客户端

小众软件 小众软件 · 2026-08-06T08:32:04Z
CanIRun.AI – 你的电脑能跑哪些本地 AI 大模型?这个网站打开就能看到

由于AI Token价格昂贵,许多用户开始转向本地大模型。llmfit软件可以测试电脑能运行哪些模型,而CanIRun.AI网站则无需下载,自动识别硬件并提供可用模型列表。

CanIRun.AI – 你的电脑能跑哪些本地 AI 大模型?这个网站打开就能看到

小众软件 小众软件 · 2026-03-17T02:21:09Z

LM Studio是一个适合非技术用户的本地大模型工具,提供友好的图形界面和零配置操作,支持多平台。用户可以从Hugging Face等平台下载多种模型,确保隐私并支持离线运行。该工具还支持GPU加速,适合本地AI写作和问答服务。

轻松上手本地大模型,LM Studio带你飞

dotNET跨平台 dotNET跨平台 · 2025-02-17T00:01:39Z

Ollama 是本地运行 Llama 2、Gemma 等大模型的命令行工具,支持 macOS、Linux、Windows。以 Mac 为例,下载后放入应用目录,执行 `ollama run gemma:2b` 即可自动下载并运行模型,生成诗歌、评论等文本。它还提供 REST API,通过 `/api/generate` 和 `/api/chat` 发送请求,返回流式 JSON 响应,逐字输出生成内容。

Ollama —— 在本地启动并运行大语言模型 - 蝈蝈俊

蝈蝈俊 蝈蝈俊 · 2024-02-22T08:59:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码