华为推出Pangu Ultra MoE训练系统，采用国产技术实现高效训练，支持超大规模模型。该系统每2秒处理一道高数题，显著提升训练效率和算力利用率，突破多项技术瓶颈。

学习演示（LfD）是一种有效的训练系统的方法，通过教师代理的演示来让学生代理学习。研究人员提出了一种教师-学生学习框架，通过改进教师代理引起环境反应的同时，最小化学生代理对演示的惊喜来适应两者之间的差异。他们通过在稀疏奖励环境中的控制任务中展示学生的学习改进来验证了这种方法。