SALSA-CLRS:一种稀疏且可扩展的算法推理基准
原文中文,约400字,阅读约需1分钟。发表于: 。我们介绍了对 CLRS 算法学习基准的扩展,重点是可扩展性和稀疏表示的利用。我们提出了 SALSA-CLRS,这是当前 CLRS 基准的一个扩展,具有可扩展性和稀疏性的特点。我们的方法包括从原始 CLRS 基准中调整的算法,并引入了来自分布式和随机化算法的新问题。此外,我们对我们的基准进行了彻底的实证评估。
本研究探讨了 Dynamic Sparse Training (DST) 在连续学习中的影响,发现在低稀疏度下,ERK 初始化更有效,而在高稀疏度下,均匀初始化更可靠。适应性是提升连续学习效果的有希望的方法。