人工智能训练的规模

研究表明，梯度噪声尺度能够预测神经网络训练的并行性。复杂任务的梯度噪声较大，未来大批量训练可能促进AI系统的发展，表明神经网络训练可以系统化。