这篇论文介绍了 CoLLiE，一种高效的库，通过 3D 并行性、参数高效微调方法和优化器，如 Lion、Adan、Sophia、LOMO 和 AdaLomo，促进了大型语言模型的协作训练。CoLLiE 在预训练和微调场景中证明了其卓越的训练效率，并在吞吐量方面进行了综合比较各种优化器和 PEFT 方法。

Collie是一个桌面上运行的最小的RSS提要阅读器应用程序，允许用户订阅多个RSS/Atom源并实时通知新项目。不需要虚拟机、云基础设施或在线数据库，也不需要注册帐户。适用于Windows、macOS和Linux。作者使用Tauri和SolidJS构建了这个应用程序。