本文提出了一种新策略SALSA，通过对两个监督微调模型的权重空间进行平均，旨在克服传统RLHF方法的局限性，提升模型的鲁棒性和表现，超越传统的PPO方法。

本文讨论了在多语言环境中部署大语言模型时的推理时间限制，并介绍了使用推测解码的助理模型的训练方法。通过有针对性的预训练和微调策略，优化了专门针对语言的草拟模型，显著减少了推理时间。验证了这些模型在推理时间、领域外优化和GPT-4o评估方面的效果。

使用三种关键方法：更好的预处理、角度嵌入和模型预训练，以提高对 LWE 的机器学习攻击，加速预处理 25 倍，提高模型样本效率 10 倍，并首次证明预训练改进和降低了对 LWE 的机器学习攻击的成本。

使用随机数值线性代数方法开发了一种新的高效的顺序近似杠杆分数算法 SALSA，证明其近似的准确性高概率地与真实杠杆分数的差异在 (1 + O (ε)) 之内。此外，展示了 SALSA 在理论计算复杂度和数值精确度方面超越现有近似方法，并基于该理论结果提出了一种名为 LSARMA 的高效算法，用于拟合大规模时间序列数据的适当 ARMA 模型。我们提出的算法高概率地能够找到真实潜在 ARMA...

该研究使用大型语言模型提出了一种文本简化方法，并使用人工评估框架 SALSA 进行了评估。结果显示 GPT-3.5 可以比人类更优秀的进行简化但仍存在错误。同时，还提出了一种基于编辑注释的自动评估方法 LENS-SALSA，并报告了良好的初步结果。

本研究探讨了 Dynamic Sparse Training (DST) 在连续学习中的影响，发现在低稀疏度下，ERK 初始化更有效，而在高稀疏度下，均匀初始化更可靠。适应性是提升连续学习效果的有希望的方法。

本研究提出了一种名为SALSA的快速双引擎调度程序，以支持DNNs的最优执行时间，并结合模拟退火的策略解决了循环排序设计空间大小的动态性问题。在5种不同的DNN上进行广泛的基准测试，与LOMA相比，SALSA的能源降低了11.9％，搜索速度提高了1.7倍，与Timeloop相比能源降低了7.6％，搜索速度提高了24倍。

Salsa 是用于编写增量/按需查询程序的 Rust 框架，作者为 Niko Matsakis。 Rust-Analyzer 和 apollo-rs 编译器 都使用了它。 注意：这本书跟随目前正在设计的 Salsa2022（代码位于 components 文件夹下，而不是 src 文件夹下），此外 很多篇章仍然需要更新（Niko 为此正在提交一个 PR） docs.rs 上的文档不是...

我实现了非 tracked structs 结构的, 或者说是递归型式的例子. 但不知道怎么来实现tracked的例子. 也许可能是手动展开如下代码? 另外,如果可行,那如何derive两次呢? #[tracked] fn data(&self, db: &DbType<'_>) -> SourceProgramData { SourceProgramData { ...

昨天看了salsa 2022了,发现不懂了. 写了些笔记, 抛砖引玉 PS 2018是什么样子的,我已经忘记了 :) Database->Storage 我们从Database::default 进去, 看一下 然后找到 storage: ::core::default::Default::default(), 再看一下 salsa::Storage::default, pub...