NVIDIA Blog
·
NVIDIA与电信领袖构建AI网格，以优化分布式网络上的推理
💡
原文英文，约1200词，阅读约需5分钟。
📝
内容提要
随着AI应用的扩展，电信网络成为AI服务的新前沿。美国和亚洲的运营商通过AI网格利用现有基础设施提供新服务，如AT&T与Cisco和NVIDIA合作支持实时应用，Comcast开发低延迟宽带AI网格，Akamai扩展全球AI网格。这些举措推动了本地创新和个性化服务，重塑了AI的交付方式。
🎯
关键要点
- 电信网络成为分发AI的新前沿，运营商通过AI网格利用现有基础设施提供新服务。
- 美国和亚洲的运营商正在构建地理分布的AI基础设施，以支持和货币化新的AI服务。
- 不同运营商采取不同路径，有的利用现有有线边缘站点，有的则整合AI-RAN技术。
- 电信公司和分布式云提供商拥有全球最广泛的基础设施，能够提供超过100吉瓦的新AI能力。
- AI网格将现有的房地产、能源和连接性转变为地理分布的计算平台，提升AI推理的响应速度和成本效益。
- AT&T与Cisco和NVIDIA合作，构建IoT的AI网格，支持实时应用和公共安全用例。
- Comcast开发低延迟宽带AI网格，提供个性化体验，确保在需求高峰期间的响应性和经济性。
- Akamai扩展全球AI网格，提升推理的经济性，支持低延迟的实时AI体验。
- Indosat Ooredoo Hutchison在印尼建立AI网格，推动本地创新和合规的AI服务。
- T-Mobile与NVIDIA合作，探索边缘AI应用，支持智能城市和工业应用。
- AI网格成为新一类AI原生应用的基础，支持实时、个性化和高并发的应用。
- NVIDIA AI网格参考设计定义了在分布式站点部署和编排AI的基础构件。
- Cisco与NVIDIA的合作推动了从集中智能向分布式决策的转变，重塑电信公司在AI价值链中的角色。
❓
延伸问答
电信网络如何成为AI服务的新前沿？
电信网络通过构建AI网格，利用现有基础设施来分发和货币化新的AI服务，成为AI服务的新前沿。
AT&T与哪些公司合作构建AI网格？
AT&T与Cisco和NVIDIA合作，构建IoT的AI网格。
AI网格如何提升AI推理的响应速度和成本效益？
AI网格通过将计算能力靠近用户和数据，优化响应速度和降低每个token的成本。
Comcast的AI网格有什么特点？
Comcast的AI网格专注于低延迟宽带，提供个性化体验，并在需求高峰期间保持响应性和经济性。
Akamai的AI网格如何支持低延迟的实时AI体验？
Akamai的AI网格通过在全球超过4400个边缘位置扩展推理云，匹配请求与合适的计算层，提升推理经济性。
AI网格对电信公司的角色有什么影响？
AI网格使电信公司从单纯传输AI流量转变为在AI价值链中发挥中心作用，支持分布式决策和实时推理。
➡️
