本文介绍了一种名为D-FCGS的动态高斯泼溅压缩方法,专为自由视角视频设计。该方法通过标准化结构和双先验感知熵模型,实现超过40倍的压缩比,提升了重构质量和泛化能力,适用于虚拟现实等应用。
机器之心数据服务已上线,提供高效稳定的数据获取服务,帮助用户轻松获取所需数据。
本研究比较了透视学习与普通学习在模型训练中的差异,发现两者在特征编码效率上存在显著差异,透视训练在稳定训练中可实现25倍的压缩比,揭示了信息空间中的不同路径。
本文提出了一种新颖的混合精度量化方法,旨在提高语音基础模型的量化效率。该方法结合了混合精度学习与模型参数估计,显著提升了压缩比,缩短了压缩时间,同时保持了单词错误率不变,展现了良好的实际应用前景。
本研究提出了一种小波潜在扩散(Wala)方法,旨在解决大规模三维生成模型在细节和复杂几何形状表现不足的问题。该方法通过小波编码实现高达2427倍的压缩比,显著提高训练效率,并生成高质量的三维形状,展现出先进的性能。
实验表明,通过减少精度量化可以恢复部分KV对的信息退化。重要的KV对需要高精度保留以保证质量。基于此,提出了混合精度KV缓存(MiKV),低精度保存被清除的KV对,高精度保留重要KV对,确保生成质量。该方法在多种基准上实现了优秀的压缩比和性能平衡。
本文介绍了将OVA格式的虚拟机转换为Qcow2格式的过程,提高性能、压缩比和安全性。转换包括提取OVA文件、识别磁盘镜像文件、使用qemu-img命令进行转换,并创建新的Qemu虚拟机。通过这些步骤,充分利用Qemu的功能和性能优化,确保与虚拟化平台兼容。
实验证明通过减少精度量化保存被清除的KV对中的一小部分信息能恢复引起的退化。提出了一种可靠的缓存压缩方法,即混合精度KV缓存(MiKV),保留被清除的KV对的上下文细节并保留重要的KV对的高精度。在多种基准和LLM骨干上提供了最先进的压缩比和性能的权衡。
在移动环境中,分布式机器学习面临通信瓶颈问题。研究提出了一种使用非均匀压缩的分布式SGD分析方法,通过分配不同的压缩率给节点,提高了收敛速率。实验证明该方法在处理不平衡数据量分布和受限通信时性能更好。
在高压缩比率下保留关键信息对于维持大型语言模型性能的重要性以及引入使用查询来指导上下文压缩过程的 Query-Guided Compressor (QGC) 的有效性进行了验证,并展示了 QGC 在问题回答任务上能够在高压缩比率下始终表现良好,并对推理成本和吞吐量提供了显着的优势。
实验证明减少精度量化保存的KV对能恢复引起的退化。提出了一种可靠的缓存压缩方法MiKV,通过保留被清除的KV对的低精度和重要的KV对的高精度来确保生成质量。与其他基准相比,该方法在多种基准和LLM骨干上提供了最先进的压缩比和性能的权衡。
本报告介绍了OpenBA,一个开源的150亿双语不对称seq2seq模型,通过三阶段训练策略从头开始训练模型。该模型在多个基准测试上表现出色,并提供了预训练的主要细节和增强技术。代码已重构以符合Huggingface Transformers Library的设计原则,并发布了不同训练阶段的检查点。
DwarFS是一个适用于Linux、Windows和macOS系统的快速、高压缩比只读文件系统,可以打包任何文件与数据,得到一个可以跨平台读取的压缩镜像文件。适合压缩打包海量小文件,访问速度快,占用CPU资源少。
智能处理单元(IPU)是一种新型的大规模并行处理器,提供更多的处理能力。研究发现,在IPU上实现蝶形结构可以提供98.5%的压缩比,减少对内存的需求。此外,IPU在蝶形和像素化蝶形方面的实现可以获得1.3倍和1.6倍的性能改进,并在实际数据集上实现了1.62倍的训练时间加速。
本研究提出了一种混合压缩模型LoRAP,通过输入激活加权奇异值分解方法和基于低秩度差异的参数分配方案,增强了Transformer模型中Multi-Head Self-Attention子层的低秩特性,并提出了无梯度的结构化通道剪枝方法用于Feed-Forward Network子层,实验证明我们的提议在多重压缩比下优于之前的结构化压缩方法。
实验证明通过减少精度量化保存被清除的KV对的一小部分信息可以恢复引起的退化。提出了一种可靠的缓存压缩方法,即混合精度KV缓存(MiKV),通过保留被清除的KV对的低精度和重要的KV对的高精度来确保生成质量。与其他基准相比,该方法在多种基准和LLM骨干上提供了最先进的压缩比和性能的权衡。
该论文提出了一种量化感知张量压缩训练方法,通过压缩Transformer模型的嵌入层和线性层,获得低精度的模型表示进行训练。通过层与层的蒸馏方法将预训练的Transformer模型转换为量化和张量压缩的学生模型,提高收敛速度。在自然语言理解任务中,表现出高压缩比、几乎无损的精度损失和显著的推断和训练加速。
本文介绍了一种堆栈倒打的日志设计方案,解决了堆栈折叠和存储成本高的问题。该方案将异常原因栈和错误堆栈分开打印,并简化了全限定类名,达到了88%的压缩比。作者提醒读者不要迷信最佳实践,要根据实际情况量身定制。
汽油机的热效率受压缩比限制,过高会导致爆震。马自达的压燃汽油发动机在低负载下仍需火花塞点火,增加了复杂性和成本。增程器的压燃发动机通过单一工况去除火花塞,降低复杂度,并结合米勒循环实现高压缩比。采用超稀薄燃烧和电辅助涡轮增压技术,优化燃烧室设计,提高效率。
本文探讨了内燃机的基本原理及提高效率的方法。内燃机通过吸气、压缩、膨胀和排气四个循环将热能转化为机械能。提高效率的关键在于优化压缩比和膨胀比,以及精确控制燃料与空气的混合比例。采用电喷技术和氧传感器可提高燃烧效率,确保燃料充分燃烧,从而提升整体性能。
完成下面两步后,将自动完成登录并继续当前操作。