昆仑天工推出的Skywork桌面版AI工具,支持多模型切换和本地文件处理,提升工作效率。其自动整理文件、生成PPT和网站等功能表现优异,确保隐私安全,适合职场人士使用。
机器之心数据服务现已上线,提供高效稳定的数据获取服务,简化数据爬取流程。
昆仑万维推出国内首款中文逻辑推理o1模型Skywork o1,具备复杂思考和自我验证能力,显著提升推理能力,支持复杂数学任务,包含开源和专用版本,推动开源社区发展。
昆仑天工模型采用开源策略,最新技术报告讨论了预训练模型刷榜问题。报告亮点包括两阶段预训练策略、避免灾难性遗忘的训练技巧、训练监控指标的重要性、构建双语SkyPile语料库的方法、以及13B模型在高性能集群上的训练细节。还讨论了通过加入下游任务数据提升模型表现的作弊行为,并提出指标检测。
Skywork-13B是一个基于3.2万亿标记训练的大型语言模型系列,采用两阶段训练方法,表现出色,并发布了SkyPile语料库。同时,提出了一种新颖的泄漏检测方法,证明测试数据污染是一个迫切需要LLM社区进一步研究的问题。
完成下面两步后,将自动完成登录并继续当前操作。