➡️
继续阅读
-
Chip Huyen 讲解如何在不添置新硬件的情况下降低推理成本
Chip Huyen在P99大会上指出，模型训练是一次性成本，推理成本则反复发生，比例可达1:10至1:100。她建议关注首token延迟和goodput...
-
2000+真实场景搬进仿真！一个导航模型零样本“通吃”四种机器人本体
亮源新创提出Physical AI三段范式：规模化预训练、对齐与部署，并发布三项技术。LightParkour用强化学习将单个动作扩展为可泛化技能分布；L...
-
图片一多首字就慢？用EPD拆开多模态推理三段路
多模态推理采用EPD拆分，将视觉编码、预填充、解码分队列调度，以缓解图片请求阻塞文字请求的队头阻塞。NVIDIA测试显示，图片密集负载下首字延迟最高快5倍...
-
AI生成3D模型测评：AI建模选OpenSCAD还是CadQuery
AI生成3D模型实测对比OpenSCAD与CadQuery：两者成品均达3D打印标准，迭代次数相当，主要差距在出错模式。CadQuery报错显性、会中止运...
-
Waymo靠边停车，因乘客携带幽灵枪而报警
两名青少年在旧金山乘坐Waymo自动驾驶出租车时，车内系统检测到他们携带上膛的AR式幽灵枪，违反服务条款。车辆随即靠边停车并报警，两人被捕并送往少年拘留所...
-
“机器翻译对世界上大多数语言来说仍然很糟糕”：Cohere 出于特定原因构建非推理模型
Cohere发布开源机器翻译模型North Small Translate，采用混合专家架构，总参数2180亿、激活250亿，支持50种语言。模型面向企业...
