小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
Rust官方宣布启动函数重载实验,一个特性打通 C++ 互操作最后一公里

Rust官方语言团队在Nightly版本中启动函数重载实验,旨在解决Rust调用C++重载函数时的命名问题。实验引入临时语法`#[rustc_splat]`,允许重载函数像普通函数一样调用,如`hypot(2.0, 3.0, 6.0)`,无需元组包装。该特性基于Rust-C++互操作计划,由谷歌资助,目前仍不完整,可能变更。团队提出四条设计公理,未来或推出`#[overload]`属性简化调用。

Rust官方宣布启动函数重载实验,一个特性打通 C++ 互操作最后一公里

Tony Bai Tony Bai · 2026-09-03T22:00:00Z
纯 .NET 手写 CUDA kernel,GLM-5.3-Flash decode 跑出 llama.cpp 的 2 倍 - 张善友

TensorSharp 是纯 .NET LLM 推理引擎,三天内接入 GLM-5.3-Flash 和 Qwen3.8-Flash-Next 新架构。它支持进程内推理,性能上 decode 速度翻倍,prefill 持平,并强调正确性验证和部署便捷性。对 .NET 团队,这标志着前沿模型架构跟进加速,值得纳入 PoC 评估。

纯 .NET 手写 CUDA kernel,GLM-5.3-Flash decode 跑出 llama.cpp 的 2 倍 - 张善友

张善友 张善友 · 2026-08-28T23:54:00Z
3 张卡到底能不能跑大模型推理?从 vLLM、llama.cpp 到 TensorSharp 的多卡真相 - 张善友

vLLM的并行限制源于注意力头数需被TP大小整除,而非固定1/2/4/8卡;llama.cpp采用层切分,通信量小,卡数影响不大,关键在互联类型。TensorSharp引擎同时支持层切分和张量并行,3卡跑744B模型性能超llama.cpp,但TP对互联敏感,2卡仅提升1.4倍。核心结论:层切分对卡数免疫,TP对互联敏感。

3 张卡到底能不能跑大模型推理?从 vLLM、llama.cpp 到 TensorSharp 的多卡真相 - 张善友

张善友 张善友 · 2026-08-27T22:40:00Z

Muse Glimmer是Meta推出的本地AI编码模型,性能优于Qwen 27B类模型。本文指导用户通过llama.cpp和DFlash加速运行,并连接Pi代理实现本地编码。测试显示速度达127 tokens/秒,能自主构建、测试和调试项目,但HTML生成略逊于Qwen。推荐RTX 3090/4090/5090用户尝试,本地AI编码已接近付费模型体验。

使用llama.cpp、DFlash和Pi运行Muse Glimmer进行本地Vibe编码

KDnuggets KDnuggets · 2026-08-21T14:00:58Z

该文章介绍了一个名为“Awesome C++ Blogs”的精选技术博客集合,旨在系统整理值得反复阅读的C++相关文章,类似必读书目。目前内容初步规划,已列出百度C++工程师的极限优化系列,涵盖内存和并发两个主题,后续将逐步补充更多内容。

Awesome C++ Blogs

编程沉思录 编程沉思录 · 2026-08-12T19:00:00Z

本文介绍SonarQube社区版通过cxx插件检测C++项目的方法。内容包括插件特性、安装步骤(下载兼容版本、复制jar包、重启服务)、卸载方式,以及源代码扫描流程、项目配置、SonarScanner使用和日志解读,并附故障排查建议。

使用SonarQube社区插件cxx检测C++项目

老卫(柳伟卫)的博客 老卫(柳伟卫)的博客 · 2026-08-11T00:22:00Z
纯 C# 追平 llama.cpp?.NET 本地推理三国杀 - 张善友

2026年,.NET生态出现三个本地大模型推理引擎:LLamaSharp借力llama.cpp,性能稳定但依赖原生库;dotLLM纯C#实现,CPU解码追平C++,但预填充慢,零原生依赖;TensorSharp融合GGML内核,GPU吞吐领先,支持多模态和集群。三者各具优势,求稳选LLamaSharp,求纯选dotLLM,求全选TensorSharp,C#本地推理已成熟。

纯 C# 追平 llama.cpp?.NET 本地推理三国杀 - 张善友

张善友 张善友 · 2026-08-02T23:08:00Z
Ollama vs. LM Studio vs. llama.cpp:2026年你应该使用哪个本地AI运行时?

本文比较了Ollama、LM Studio和llama.cpp三种本地AI运行时。LM Studio适合初学者,提供图形界面和可视化量化控制;Ollama适合开发者,提供简洁CLI和API集成;llama.cpp适合追求极致控制的生产工程师,支持手动量化。三者共享同一推理引擎,用户可按需从LM Studio迁移至Ollama再至llama.cpp。

Ollama vs. LM Studio vs. llama.cpp:2026年你应该使用哪个本地AI运行时?

MachineLearningMastery.com MachineLearningMastery.com · 2026-07-29T12:00:13Z
如何将C/C++项目重写为Rust?

C/C++项目迁移到Rust应谨慎,推荐增量迁移而非全量重写。从模块依赖图的叶子节点开始,先解决构建、链接、测试等集成问题,逐步扩大Rust代码范围。迁移难点在于FFI边界管理,需明确所有权和释放规则。适合迁移的项目包括性能敏感、并发或安全关键系统,迁移前需评估维护成本和测试基础设施。

如何将C/C++项目重写为Rust?

The JetBrains Blog The JetBrains Blog · 2026-07-27T11:02:50Z
MTP 加速推理最佳实践:在亚马逊云科技中国区使用 llama.cpp 部署 Qwen3.6 的实测指南

本文在AWS中国区实测llama.cpp部署Qwen3.6模型,对比Graviton4、Intel CPU和A10G GPU的MTP加速效果。GPU上MTP提升83%性能,CPU上反而降低18-40%。最佳实践:GPU用27B Dense+MTP,CPU用35B MoE关闭MTP,后者成本仅为GPU的26%,性能达82%。

MTP 加速推理最佳实践:在亚马逊云科技中国区使用 llama.cpp 部署 Qwen3.6 的实测指南

亚马逊AWS官方博客 亚马逊AWS官方博客 · 2026-07-24T09:24:07Z

Pure Virtual C++ 2026 大会圆满结束,所有演讲视频已上线。直播环节涵盖 C++ 语义感知、C++/Rust 互操作、AI 驱动开发、构建优化及 C++/WinRT 模块等主题;点播环节包括 vcpkg、CMake 工具、MSVC 升级等。主办方感谢参与者,并邀请社区反馈意见以规划下届内容。

Pure Virtual C++ 2026 大会圆满结束

C++ Team Blog C++ Team Blog · 2026-07-22T16:00:35Z
ReSharper C++ 2026.2:C++26反射、ISPC语言支持及更多功能

ReSharper C++ 2026.2发布,新增C++26反射支持(含^^运算符和拼接语法)、ISPC语言支持,并显著提升Unreal Engine项目索引速度(初始索引快55%)。还改进了constexpr求值器(支持动态内存分配和异常)、新增代码检查(如内部链接检测)和重构功能(如Lambda提取方法),并支持Junie代理。

ReSharper C++ 2026.2:C++26反射、ISPC语言支持及更多功能

The JetBrains Blog The JetBrains Blog · 2026-07-22T14:15:39Z

Pure Virtual C++ 2026虚拟会议今日举行,为期一天,免费向C++社区开放。活动在YouTube直播,包含C++语义感知、C++/Rust互操作、AI驱动开发、构建优化等主题演讲,并提供实时问答。会后所有会话将按需发布,方便错过直播者观看。

Pure Virtual C++ 2026 现已上线!

C++ Team Blog C++ Team Blog · 2026-07-21T15:54:35Z

本文介绍如何在本地运行Qwythos-9B-Claude-Mythos-5-1M模型,该模型为9B参数推理编码模型,适合消费级硬件。通过llama.cpp安装并启动服务,设置100K上下文和MTP推测解码,在RTX 4070 Ti Super上达到81.74 tokens/秒。随后安装Pi及llama插件,连接本地服务器作为编码代理。测试显示模型能成功构建浏览器游戏和CSV转Excel CLI工具,表现快速准确,无需外部API,适合日常编码任务。

使用llama.cpp和Pi在本地运行Mythos增强编码模型

KDnuggets KDnuggets · 2026-07-21T14:00:42Z

Pure Virtual C++ 2026 是微软举办的免费线上 C++ 开发者大会,将于 7 月 21 日直播,涵盖 C++/Rust 互操作、AI 驱动开发、构建优化等主题。同时提供点播课程,包括性能优化、依赖管理、VS Code 工具更新及 MSVC 对 C++23/26 的支持现状,帮助开发者提升效率并了解最新技术。

Pure Virtual C++ 2026 明日开幕,点播课程现已上线

C++ Team Blog C++ Team Blog · 2026-07-20T16:05:54Z

GitHub Copilot为Windows推出了新的迭代构建工具,旨在优化C++项目的构建时间。该工具允许开发者测量每个更改对迭代构建的影响,提供快速反馈,提升工作效率。用户可在Visual Studio 2026中使用此工具。

使用GitHub Copilot加速C++迭代构建

C++ Team Blog C++ Team Blog · 2026-07-17T14:22:57Z

2026年7月21日,Pure Virtual C++将举办一场免费的虚拟会议,主题为现代化C++与Rust的互操作性。演讲者Victor Ciura将讨论混合C++/Rust代码库的挑战与解决方案,强调ABI兼容性和性能的重要性,适合对Rust感兴趣的C++开发者。

Pure Virtual C++ 2026 [与演讲者见面,第三部分]: 现代化C++

C++ Team Blog C++ Team Blog · 2026-07-16T22:26:54Z
MSVC Build Tools Preview 更新 - 2026年7月

MSVC Build Tools Preview最近更新至v14.52,改进了编译器、链接器和标准库,增强了C++代码合规性、模块支持、代码生成和优化,修复了多个编译错误和性能问题。Insiders渠道用户可更快获取更新,用户可通过Visual Studio 2026安装并反馈问题。

MSVC Build Tools Preview 更新 - 2026年7月

C++ Team Blog C++ Team Blog · 2026-07-15T21:17:05Z
ReSharper 2026.2候选版发布!

ReSharper 2026.2候选版已发布,支持Visual Studio中的ACP代理,提升C#开发体验。新增更好的分析、重构和.editorconfig集成,C++更新包括C++26反射和更快的文件处理。

ReSharper 2026.2候选版发布!

The JetBrains Blog The JetBrains Blog · 2026-07-15T12:42:19Z

Visual Studio Insiders 18.9引入全代码库索引(WCI),显著提升C++项目的符号信息检索效率,优化代码导航和语义文件着色,支持CodeLens引用功能,提升开发体验。WCI通过更深层次的索引加快符号上下文访问速度,特别在大型代码库中提高开发者工作效率。

重新思考C++性能:通过全代码库索引实现更快的代码导航和GitHub Copilot工具

C++ Team Blog C++ Team Blog · 2026-07-14T22:28:13Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 1tok 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator 模力方舟 Gitee AI

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码