NVIDIA Blog
·
NVIDIA与电信领袖构建AI网格，以优化分布式网络上的推理
内容提要
随着AI应用的扩展，电信网络成为AI服务的新前沿。美国和亚洲的运营商通过AI网格利用现有基础设施提供新服务，如AT&T与Cisco和NVIDIA合作支持实时应用，Comcast开发低延迟宽带AI网格，Akamai扩展全球AI网格。这些举措推动了本地创新和个性化服务，重塑了AI的交付方式。
关键要点
-
电信网络成为分发AI的新前沿，运营商通过AI网格利用现有基础设施提供新服务。
-
美国和亚洲的运营商正在构建地理分布的AI基础设施，以支持和货币化新的AI服务。
-
不同运营商采取不同路径，有的利用现有有线边缘站点，有的则整合AI-RAN技术。
-
电信公司和分布式云提供商拥有全球最广泛的基础设施，能够提供超过100吉瓦的新AI能力。
-
AI网格将现有的房地产、能源和连接性转变为地理分布的计算平台，提升AI推理的响应速度和成本效益。
-
AT&T与Cisco和NVIDIA合作，构建IoT的AI网格，支持实时应用和公共安全用例。
-
Comcast开发低延迟宽带AI网格，提供个性化体验，确保在需求高峰期间的响应性和经济性。
-
Akamai扩展全球AI网格，提升推理的经济性，支持低延迟的实时AI体验。
-
Indosat Ooredoo Hutchison在印尼建立AI网格，推动本地创新和合规的AI服务。
-
T-Mobile与NVIDIA合作，探索边缘AI应用，支持智能城市和工业应用。
-
AI网格成为新一类AI原生应用的基础，支持实时、个性化和高并发的应用。
-
NVIDIA AI网格参考设计定义了在分布式站点部署和编排AI的基础构件。
-
Cisco与NVIDIA的合作推动了从集中智能向分布式决策的转变，重塑电信公司在AI价值链中的角色。
延伸解读
电信网络的转型
电信网络正在从传统的流量承载转变为AI服务的核心基础设施。这一转型不仅提升了网络的价值，还为运营商创造了新的收入来源。通过AI网格，运营商能够更高效地利用现有资源，支持实时和个性化的AI应用，推动数字化转型。
AI网格的多样化路径
不同的电信运营商在构建AI网格时采取了各自独特的策略。有的利用现有的有线边缘站点，有的则整合AI-RAN技术。这种多样化的路径使得各个运营商能够根据自身的基础设施和市场需求，灵活地推出适合的AI服务。
本地化AI服务的机遇
随着AI网格的建立，地方运营商如印尼的Indosat Ooredoo Hutchison能够提供更符合本地需求的AI服务。这种本地化的策略不仅促进了创新，还确保了合规性，为当地开发者和初创企业提供了良好的发展平台。
延伸问答
电信网络如何成为AI服务的新前沿？
电信网络通过构建AI网格，利用现有基础设施来分发和货币化新的AI服务，成为AI服务的新前沿。
AT&T与哪些公司合作构建AI网格？
AT&T与Cisco和NVIDIA合作，构建IoT的AI网格。
AI网格如何提升AI推理的响应速度和成本效益？
AI网格通过将计算能力靠近用户和数据，优化响应速度和降低每个token的成本。
Comcast的AI网格有什么特点？
Comcast的AI网格专注于低延迟宽带，提供个性化体验，并在需求高峰期间保持响应性和经济性。
Akamai的AI网格如何支持低延迟的实时AI体验？
Akamai的AI网格通过在全球超过4400个边缘位置扩展推理云，匹配请求与合适的计算层，提升推理经济性。
AI网格对电信公司的角色有什么影响？
AI网格使电信公司从单纯传输AI流量转变为在AI价值链中发挥中心作用，支持分布式决策和实时推理。
