华为发布了基于昇腾的135B参数的千亿级语言模型Pangu Ultra，采用94层Transformer结构。该模型在多个领域超越了Llama 405B，解决了训练稳定性问题，提升了算力利用率，并通过优化分词器和数据质量支持长序列输入，验证了技术路径的有效性。