➡️
继续阅读
-
Strata 0.2 测试版发布:性能升级,门槛再降低|低配电脑运行本地大模型
Strata 0.2.0 测试版发布,这款开源工具支持在普通电脑本地运行大模型。新版将硬件门槛降至内存加显存最低 27.6GB,新增独立图形界面和中文界面...
-
DeepSeek发布开源推理框架DeepInfer:揭示AI盈利真相
DeepSeek开源推理框架改写AI盈利规则! DeepSeek开源DeepInfer推理框架,单集群日吞吐155万亿token,每卡每小时收入38美元,...
-
评估整个推理栈——而不仅仅是开源模型基准
公开基准仅反映模型最优表现,无法保证生产环境中的稳定准确。Nebius的Wang建议结合内部基准与真实工作流评估开源模型,并关注整个推理栈,包括缓存命中率...
-
研究人员发现AI对话出现在网上后,Meta暂停Muse分享功能
Meta因安全公司Claroc发现其Muse AI助手的分享链接可通过公开DNS记录被检索,已暂停该分享功能。Claroc找到逾6800条链接,因链接由对...
-
DeepSeek开源其API背后的推理引擎,华为与英伟达并驾齐驱
DeepSeek以Apache 2.0协议开源生产环境推理框架DeepInfer,支持在自有基础设施上运行V4.1 Flash模型,包含优化计算内核、通信...
-
DeepSeek又放大招:全面开源大规模云服务推理框架DeepInfer
DeepSeek正式开源大规模云服务推理框架DeepInfer,并同步开源生产级Token编解码组件Deepseek-recipe,与官方API逻辑对齐。...