我们正在构建混合模型（MoM）系统，以提升大型语言模型（LLM）的集体智能。核心问题包括捕捉请求与响应信号、优化模型协作和确保系统安全。通过vLLM语义路由器，我们展示了在AMD GPU上实时路由查询的能力，支持多种模型和信号类型。MoM架构通过智能调度和能力匹配，实现高效的AI部署。

摩尔线程开源了TorchCodec-MUSA，实现了PyTorch编解码库的硬件适配，支持无缝迁移至国产GPU，提升视频处理效率，简化开发流程，降低使用门槛，推动国产GPU在AI训练中的应用。

PyTorch 2.10 发布，增强了对 Intel GPU、AMD ROCm 和 NVIDIA CUDA 的支持，新增功能和性能优化，包括对 Python 3.14 的支持及改进的调试功能。

高端GPU成本高且常常闲置，Kubernetes调度未考虑实际利用率。为此，开发了ReclaimIdleResource插件，通过GPU利用率进行预占，优化资源管理。

Granola是一款AI笔记工具，帮助用户在会议中保持专注，将对话转化为实际进展。它支持生成任务、搜索项目对话和创建自定义提示，适用于多种会议应用。文章还讨论了GPU和TPU在现代大语言模型中的重要性，强调并行计算和内存带宽对AI性能的影响。

摩尔线程开源MUSA加速版MONAI 1.5.0，专注于AI医学影像，提升国产算力。MONAI框架连接学术与临床，已下载350万次。MUSA软件栈优化性能，推动医学AI应用与国产生态发展。

选择适合AI工作负载的GPU并不复杂，但需与具体需求匹配。训练模型需强大内存和带宽，而推理则侧重效率。合理选择和租用GPU，以避免不必要的开支。

现代AI和机器学习中的GPU资源管理面临挑战。结合Karpenter和HAMi可实现GPU资源的细粒度分片和动态扩缩容，从而提高资源利用率，降低成本，适用于AI训练和科学计算等场景。

一位Mojo社区成员利用AI在Mojo中解决了量化挑战，其速度比C++/CUDA实现快1.07到1.84倍。Mojo简化了GPU编程，适合开发者使用。

我参加了一个量化挑战，使用Mojo编程，结果比C++/CUDA实现快1.07到1.84倍。Mojo简化了GPU编程，适合开发者尝试。

Intel Mesa 26.0 将支持 Xe 驱动程序的 GPU 硬件重放功能，以加快问题的重现和调试。该功能依赖于新的内核补丁，预计稳定版将在 2 月发布。

MSI 微星推出新电源，具备电流异常监测功能，实时监控 GPU 供电线电压，异常时发出警报并强制黑屏以降低负载，防止硬件损坏，旨在降低 GPU 电源异常的安全风险。

Tensor Fusion是一种针对GPU集群的虚拟化和资源池解决方案，旨在提升集群利用率和降低推理延迟。它支持动态GPU池、低延迟推理、自动扩展和调度，适合高推理密度和多租户环境，有效处理多模型和多租户工作负载。

AMD发布基于台积电2纳米工艺的EPYC ZEN 6处理器和MI455X加速卡，ZEN 6的IPC预计提升15%至20%，MI455X则专为AI优化。Helios AI超算平台整合CPU与GPU，支持ROCm开放软件栈，旨在提高AI应用开发效率。