小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
沉浸式翻译 immersive translate
Dify.AI

推理框架是模型从“能跑”走向“可服务”的关键层,负责调度、KV管理、并行、采样与API。裸generate缺少请求级调度、分页KV和连续批处理,并发一高延迟与显存即崩。框架核心包括Scheduler、KV Manager、并行运行时、采样与Model Runner。2026年常用框架:vLLM通用、SGLang擅前缀缓存、TensorRT-LLM低延迟、LMDeploy、MindIE、llama.cpp边缘。上手建议先跑vLLM OpenAI server,再对照SGLang或LMDeploy。

【大模型基础设施工程·特别篇】29:推理框架详解——为啥需要、做什么、底层举例与部署 Demo

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-10-29T00:00:00Z

小朋友玩有点幼稚,成年人刚刚好。仅凭着2020年发布的一个简单的Blender场景演示动图,《木木屋》(Woodo)就获得了在TapTap上获得了65万预约。在2024年的科隆游戏展上,我们曾和来自这款游戏发行商Daedalic的伙伴有过交流——提起了创作者Julia也没想到这样一款“休闲填色”类的游戏,为什么能在中国引起这样的关注。当时问起游戏大概还要多久才能面世时,我们得到了一个不置可否...

花六年、沉下心,在爆款DEMO会被火速复制的时代,她做了款98%好评的涂色游戏

游戏研究社 游戏研究社 · 2026-10-25T16:00:00Z
Android 群组聊天怎么实现:基于 ZIM 的完整落地指南(附可运行 Demo)

本文介绍如何使用ZEGO ZIM SDK在Android端实现群组聊天。首先根据消息持久性和成员规模,在群组、房间、社群三种形态中选择,多数产品适合选用群组。文中给出了初始化、登录、创建群组、收发消息和会话列表的可运行示例,强调按orderKey排序,并用messageID与localMessageID去重替换。同时提醒:groupID永久不可复用;权限需在UI层校验;免打扰会话不计入总未读;切换账号前必须logout。最后简述了ZPNs离线推送的接入方法。

Android 群组聊天怎么实现:基于 ZIM 的完整落地指南(附可运行 Demo)

实时互动网 实时互动网 · 2026-10-22T03:22:38Z
尘封十年的 Go 提案迎来转机?bradfitz 亲自操刀 Demo,让加锁也能 select 了

Go issue #16620 提出已十年,探讨能否像 select channel 一样等待 sync.Cond。核心难点在于 channel 的电平触发与 Cond 的边沿触发语义冲突,Broadcast 尤其复杂。社区曾用桥接 goroutine、context.AfterFunc 等绕行。近日 bradfitz 提交 Demo CL,先推出 sync.Mutex.LockChan(),使加锁可响应取消或超时,但 Cond 与 Broadcast 问题仍未解决。

尘封十年的 Go 提案迎来转机?bradfitz 亲自操刀 Demo,让加锁也能 select 了

Tony Bai Tony Bai · 2026-10-04T22:00:00Z

Novartis’s chief data and digital officer for biomedical research explains how data platform investments are paying off in AI safety prediction, generative chemistry, and faster translation.

Novartis’s Christian Diehl on scaling AI beyond the demo

McKinsey Insights & Publications McKinsey Insights & Publications · 2026-09-21T00:00:00Z
你的代码变更现在有了 Junie /demo 演示

JetBrains 为 Junie 推出 /demo 功能,可让 AI 代理自动构建并启动应用、操作界面并录制演示。用户只需描述检查内容,即可获得 HTML 报告、截图和视频,视频含讲解幻灯片与字幕。该功能已用于 GitHub Actions,在超 1500 个 PR 中生成 2100 多个演示视频,并用于发布冒烟测试。

你的代码变更现在有了 Junie /demo 演示

The JetBrains Blog The JetBrains Blog · 2026-09-18T11:51:27Z

Zhou Yu discusses why AI agents stall in demo phase and shares how simulation-driven testing solves compliance and reliability bottlenecks. Learn how Columbia and Arklex AI use synthetic user...

Presentation: From AI Agent Demo to Production: Automated Testing and Evaluation

InfoQ InfoQ · 2026-09-07T11:00:00Z
见臻科技发布Aurora IIS参考设计模块及眼镜Demo Kit

见臻科技发布Aurora IIS参考设计模块及配套眼镜Demo Kit,旨在验证窄边框智能眼镜中集成眼动追踪功能。模块采用奇景光电NPU芯片、豪威集团摄像头及艾迈斯欧司朗红外补光灯。Demo Kit提供SDK,支持OEM快速开发定制应用,并展示GazeAI Vision技术。该方案将于2026年9月在深圳光博会展示。

见臻科技发布Aurora IIS参考设计模块及眼镜Demo Kit

全球TMT-美通国际 全球TMT-美通国际 · 2026-09-03T02:13:19Z
神秘具身团队又放出一连串很炸的Demo视频…自进化模型,技术路线曝光

该文章报道了一个神秘机器人模型“MVP”(意为“做个人吧”),通过多个一镜到底的演示视频,展示其像人类一样理解物理规律、自主决策和协作的能力。机器人能稳定端水、整理家务、跨本体协作,并高效收纳物品,体现长程任务和泛化性,被视为具身智能的重要里程碑。

神秘具身团队又放出一连串很炸的Demo视频…自进化模型,技术路线曝光

量子位 量子位 · 2026-09-03T01:31:45Z
今年最难的机器人Demo,“机器人含量”为0

自变量公司发布灵巧操作系统TwinDex,其核心创新在于后训练阶段无需真机遥操数据,仅用几百条无本体数据即可完成精细操作,如化学实验中的旋拧瓶盖、注射器推注等。TwinDex采用三指九自由度设计,强调数据采集与执行端的一致性,提升采集效率5.3倍,旨在降低对真机数据的依赖,推动无本体数据规模化应用。

今年最难的机器人Demo,“机器人含量”为0

量子位 量子位 · 2026-09-03T00:51:16Z
「GPT-6」灰测demo刷屏!周四发布在即

该文章报道了OpenAI疑似即将发布新旗舰模型Astra(或GPT-6)的消息。社区开发者泄露了其3D生成能力,能一键生成复杂模型,效果惊人。但该模型因安全风险推迟发布,目前进入内部测试阶段,预计最早9月3日发布。

「GPT-6」灰测demo刷屏!周四发布在即

量子位 量子位 · 2026-08-31T04:47:26Z
宇树智元共用一个大脑!神秘模型Demo炸场,10分钟一镜到底

视频展示了一个神秘团队开发的具身智能模型,让宇树和智元两款不同机器人共用同一“大脑”,在10分钟一镜到底的真实环境中自主协作完成家务。机器人展现出跨本体协作、自我推理、工具使用和任务中断恢复等能力,突破了传统VLA和世界模型的局限,可能颠覆具身智能行业认知和Scaling Law。

宇树智元共用一个大脑!神秘模型Demo炸场,10分钟一镜到底

量子位 量子位 · 2026-08-26T05:52:06Z
不是Demo!优必选把客户产线1:1搬进WRC,解锁具身智能真落地路径

优必选在WRC展示工业、商用、家庭三条产品线,强调真实场景作业能力。其“具身大脑”分理解、预测、执行三层,端侧部署提升效率。通过真实数据闭环和生态合作,推动机器人从实验室走向工厂,以客户订单验证技术,实现商业化与进化同步。

不是Demo!优必选把客户产线1:1搬进WRC,解锁具身智能真落地路径

量子位 量子位 · 2026-08-22T14:46:43Z
不是Demo!优必选把客户产线1:1搬进WRC,解锁具身智能真落地路径

优必选在WRC展示工业、商用、家庭三条产品线,强调人形机器人竞争核心在于真实场景落地能力。其通过“具身大脑”三层体系(理解、预测、执行)和端侧部署,实现高强度连续作业,并构建数据闭环与生态合作,推动机器人从展示走向客户工厂持续创造价值。

不是Demo!优必选把客户产线1:1搬进WRC,解锁具身智能真落地路径

量子位 量子位 · 2026-08-22T12:11:23Z
WRC展会拿旧Demo炒冷饭?扒一扒千寻藏在水下的全栈底牌

千寻智能在WRC重演“整理客厅”Demo,展示30天内全栈技术进化。通过“时间密度”概念,系统在数据、训练、Agent、导航、硬件上快速迭代,长程任务成功率提升至85%,并实现零样本迁移。核心是数据闭环与基座模型Spirit v1.6,已落地宁德时代产线,成功率99%以上。

WRC展会拿旧Demo炒冷饭?扒一扒千寻藏在水下的全栈底牌

量子位 量子位 · 2026-08-21T05:38:12Z
共生知行发布人形机器人赛车Demo:以卡丁车测试双足机器人的“全身智能”

共生知行发布双足人形机器人驾驶卡丁车Demo,作为全身智能压力测试,验证视觉感知、平衡、手眼脚协同等能力。公司定位为全身智能基座模型公司,探索端到端技术路线,核心团队来自智源、港科大等,具备VLA和运动控制积累。未来将发布更多技术报告和案例,推动人形机器人从“能运动”到“能完成任务”。

共生知行发布人形机器人赛车Demo:以卡丁车测试双足机器人的“全身智能”

量子位 量子位 · 2026-08-17T09:30:49Z
Demo的高估值时代结束了,具身智能开始按生产力重新算账

具身智能行业进入冷静期,投资焦点从Demo转向实际生产力。上海交大杨学教授加入酷哇科技,强调模型对物理世界的理解及真实部署验证。行业分化路径类似大模型,幸存者需具备真实场景、数据闭环和工程化交付能力。衡量标准包括部署量、复购率、稳定性和数据质量,酷哇以万台级部署和50PB数据为样本,推动商业与技术飞轮互促。

Demo的高估值时代结束了,具身智能开始按生产力重新算账

量子位 量子位 · 2026-08-03T05:42:02Z
机器人为啥困在Demo?讯飞新公司爻方智能给出答案:缺一味「本体认知」

科大讯飞成立新公司“爻方智能”,由潘嘉带队研发机器人大脑。团队认为主流VLA架构非终局,世界模型缺乏本体认知,提出“Embodied-Omni”方案,融合理解、预测、动作,通过逆运动学训练本体感知,并采用大脑-小脑协同架构,以有限数据提升泛化能力,推动机器人跨过实用门槛。

机器人为啥困在Demo?讯飞新公司爻方智能给出答案:缺一味「本体认知」

量子位 量子位 · 2026-07-23T08:23:49Z
刚刚,逐际动力放出一段Demo,Figure:睡不着啊

逐际动力推出全自主人形机器人Oli,成功完成复杂家务任务,展示其长程移动能力。Oli基于LimX COSA 0.5系统,强调系统协同,推动机器人技术从单一模型向系统化发展,提升在真实场景中的表现。

刚刚,逐际动力放出一段Demo,Figure:睡不着啊

量子位 量子位 · 2026-07-16T08:04:18Z
如何入门直播平台开发?

直播平台开发门槛较高,需要理解直播模式(单向、低延迟、互动)。建议从即构ZEGO的Demo入手,先跑通Demo,再逐步修改UI和添加功能,避免从零开始。注意避免协议选择过多、前后端职责不清和初期过度优化并发等问题。

如何入门直播平台开发?

实时互动网 实时互动网 · 2026-07-13T07:15:56Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码