Modular在MLSys 2026大会上讨论了推理技术的最新进展，强调AI代理在低级代码生成中的重要性。会议展示了多种优化技术，如高效的KV缓存管理和异构硬件应用，以提升推理性能。Modular的架构支持跨组件优化，以适应行业需求的变化。

英伟达以约200亿美元收购Groq资产，并获得其推理技术许可。Groq将继续独立运营，CEO及高管将加入英伟达。英伟达计划将Groq的低延迟处理器整合进其AI架构，以支持实时工作负载。

在KubeCon + CloudNativeCon北美大会上，专家探讨了云原生时代是否已转变为AI原生时代。与会者指出，推理技术在边缘计算和个性化网站中愈发重要，WebAssembly技术可提升推理的速度和安全性。同时，安全性和可观察性在AI时代变得至关重要，基础设施管理也面临新挑战。

2025年，Deepseek R1等大语言模型的推理技术备受关注。研究者提出思维链和动态计算等改进策略，以提升模型的推理能力。通过增加训练和推理计算，模型在复杂任务中的表现显著提高，未来推理将成为大语言模型的标准配置，推动其在各领域的应用。

中国人民大学与九章云极团队在大模型推理技术上取得新进展，复现类R1模型并开源实现。新模型STILL-3-Tool-32B在AIME 2024测试中准确率达到81.70%，超越DeepSeek-R1，推动AI推理能力提升。

阶跃星辰在首届Step UP生态开放日上介绍了其AGI探索方式，重点发展多模态推理技术，应用于汽车和手机等智能终端。创始人姜大昕指出，智能终端将成为智能体技术的关键载体，结合多模态和推理能力，推动AI落地。公司已发布11款多模态大模型，并与清华大学合作研发开源推理模型，致力于实现AGI目标。

加州大学伯克利分校RDI中心推出了一门高级大型语言模型代理的MOOC课程，旨在推动去中心化的科学与教育。课程将于2025年1月至4月进行，内容包括推理技术和代理安全，参与者可选择应用或研究轨道，完成后可获得证书。