内容提要
电信运营商正基于开源模型构建AI战略,以兼顾成本、可控性与定制化。NVIDIA报告显示,89%受访者认为开源模型对AI战略重要。开源模型可降低成本、支持电信专属微调、增强可信度与灵活部署,并助力本地化AI服务。SoftBank、AT&T、Indosat等运营商已用Nemotron等开源模型开发电信专用AI,推动自主网络与客户服务落地。
延伸解读
开源模型成为电信AI战略核心的动因
电信运营商转向开源模型,不仅出于成本考量,更为了获得对AI工作负载的信任、控制和定制能力。NVIDIA报告显示,89%的受访者认为开源模型和软件对公司的AI战略重要。开源模型能以更低成本获取前沿智能,让运营商将封闭模型保留在价值最高的场景;同时支持基于网络、客户和行业数据的电信专属微调,并增强模型行为的可见性与治理,以符合法规和业务政策。
从开源基础到电信专用模型的实践路径
运营商正利用开源模型构建电信专用AI。SoftBank Corp.基于NVIDIA Nemotron等开源基础开发SoftBank Large Telecom Model,用于网络运营、设计和管理。NVIDIA还发布了300亿参数的Nemotron 3 Large Telco Model,由AdaptKey在开源电信数据集上微调,能理解电信术语并处理网络配置、客户事件分类等任务。NVIDIA同时公开了完整的微调配方,指导运营商用自有运营数据适配开源模型。
规模化部署开源模型的关键要素
将开源模型转化为生产级AI工作流,仅靠模型不够。AT&T认为未来AI在于为每个工作负载智能匹配性能、成本和控制的组合,开源模型对此至关重要。运营商需要数据管道来匿名化敏感记录并生成隐私保护的合成数据集,还需要平台将开源模型转化为受治理的自主代理工作流。NVIDIA通过AI Enterprise软件和Agent Toolkit提供端到端平台,覆盖数据管道、开源模型、代理编排、安全运行时和仿真。
开源模型助力本地化AI创新与主权能力
开源模型为运营商提供了根据本地语言、行业、法规和数据治理要求交付AI服务的基础。Indosat Ooredoo Hutchison利用开源模型构建了Sahabat-AI系列,以反映印尼语言和文化。其首席数据与AI官表示,对印尼这样的国家,开源模型的价值超越获取强大AI,更在于将智能适配到本地语言、文化、数据和现实需求,使更多印尼人能按自己的方式创建AI。
Q&A
为什么电信运营商要基于开源模型构建AI战略?
电信运营商基于开源模型构建AI战略,主要是为了在关键工作负载中实现可信、可控和可定制的AI。开源模型能降低获取前沿智能的成本,支持电信专属微调,增强AI可信度与治理,实现灵活安全的部署,并助力运营商向企业及政府客户提供本地化AI服务。
开源模型对电信运营商的AI战略有多重要?
根据NVIDIA最新的电信AI状况报告,89%的受访者认为开源模型和软件对公司的AI战略重要。这表明开源模型已成为电信运营商AI战略的关键组成部分。
电信运营商如何利用开源模型进行定制化?
电信运营商可以利用开源模型的开放权重和训练配方,结合自身的网络、客户和行业数据进行微调,从而开发出针对电信特定用例的AI能力,如网络运营、设计和整体管理。例如,SoftBank Corp. 正在使用NVIDIA Nemotron等开源模型开发其SoftBank大型电信模型。
NVIDIA Nemotron在电信行业有哪些应用?
NVIDIA Nemotron系列开源模型提供前沿推理性能和语音能力,适用于代理工作流。NVIDIA发布了300亿参数的Nemotron 3 Large Telco Model(LTM),由AdaptKey在开源电信数据集上微调,能理解电信术语并处理网络配置、客户事件分类等任务。NVIDIA还发布了完整的微调配方,帮助运营商使用NeMo库定制模型。
电信运营商如何将开源模型部署到生产工作流中?
运营商需要数据管道来匿名化敏感记录并生成隐私保护的合成数据集,还需要一个平台将开源模型转化为受治理的自主代理工作流。NVIDIA提供端到端平台,包括NVIDIA AI Enterprise软件和NVIDIA Agent Toolkit,涵盖数据管道、开源模型、代理编排、安全运行时和模拟,帮助运营商将开源模型转化为生产就绪的AI工作流。
开源模型如何帮助电信运营商提供本地化AI服务?
电信运营商可以微调开源模型以适应本地语言和行业需求,并在其可信平台上托管这些模型,供客户直接使用或基于自身数据和应用进行构建。例如,Indosat Ooredoo Hutchison利用开源模型构建了Sahabat-AI系列,以反映印尼的语言和文化,使AI服务更符合当地需求。