本文介绍了联邦语言模型的概念，使用云端的大型语言模型（LLM）和边缘设备上的小型语言模型（SLM）。作者使用Nvidia的Jetson Orin开发套件作为边缘设备，配置了轻量级模型服务器Ollama，利用GPU加速来加快Phi-3的推理速度。

Mistral AI和NVIDIA合作推出了Mistral NeMo 12B语言模型，适用于企业应用中的聊天机器人、多语言任务、编码和摘要。该模型结合了Mistral AI的专业知识和NVIDIA的优化硬件和软件生态系统，具有高性能和128K上下文长度。Mistral NeMo以NVIDIA NIM推理微服务的形式提供，具有高效性、低计算成本、增强的安全性和隐私保护。

Microsoft Edge是一款现代化、高效率、安全可靠的网页浏览器，提供了多种插件，如Octotree、沉浸式翻译、字幕精灵、AdGuard广告拦截器、超级复制等，增强了GitHub代码审查、网页翻译、字幕翻译、广告拦截、复制粘贴等功能。

本文介绍了联邦语言模型的概念和实现方法，结合了边缘设备上的小型语言模型和云端的大型语言模型，解决了企业AI应用中的隐私问题。然而，该系统在模型协调、SLM性能限制和延迟等方面面临挑战，需要谨慎实施。作者还介绍了一个基于Microsoft Phi-3、Jetson Orin和GPT-4o的概念验证，并承诺在后续文章中提供详细的代码和操作指南。

索尼的专业版PlayStation 5控制器DualSense Edge在沃尔玛特惠活动中降价至174.99美元，是迄今为止的最低价。该控制器具有与PS5的完美软件集成，可微调四个配置文件，具有标准DualSense的所有功能，以及额外的功能。然而，它也存在一些缺点，如电池寿命短和摇杆易漂移。特价活动将持续到7月11日。

Ambassador post by Taylor Thomas, CNCF Ambassador and Director of Engineering at Cosmonic WebAssembly (Wasm) components are here and already unlocking new computing patterns. Meanwhile, CNCF’s...

火绒安全6.0版安装包被Chrome浏览器误报为危险文件，无法下载。火绒已联系谷歌申诉，预计24小时内解除拦截。

This paper was accepted at the Industry Track at NAACL 2024. With increasingly more powerful compute capabilities and resources in today’s devices, traditionally compute-intensive automatic speech...

The ability of LLMs to execute commands through plain language (e.g. English) has enabled agentic systems that can complete a user query by orchestrating the right set of tools (e.g. ToolFormer,...

微软加快Edge浏览器速度，通过WebUI 2.0架构迁移提高菜单加载速度，历史记录、下载和钱包功能也将获得升级。