Hugging Face - Blog ·

使用bitsandbytes、4位量化和QLoRA提高LLM的可访问性

💡 原文英文，约2900词，阅读约需11分钟。

📝

内容提要

本文介绍了Bitsandbytes和QLoRA两种方法，可以将模型压缩到4位精度，适用于大多数HF模型。虽然无法进行纯4位训练，但可以使用参数高效微调方法（PEFT）在模型上进行微调。作者还介绍了这种量化方法对消费级硬件上训练大型模型的影响，并提供了相关实验结果。

🏷️

将AUTO CDC提升至新高度：解决最棘手的现实世界用例
本文介绍Apache Spark Declarative Pipelines中AUTO CDC的增强功能。新增双时态CDC，通过系统时间和业务时间双时间轴...
vcpkg 2026年7月新特性
vcpkg 2026年7月发布更新，新增16个端口，更新302个，总计2858个。工具改进包括SBOM质量提升、Qt部署修复及SSL支持。主要库升级如gr...
Xbox Elite 3原型手柄泄露，内置微型屏幕
Reddit用户曝光疑似Xbox Elite Series 3原型手柄，售价200美元，配备内置屏幕、滚轮和可修复设计。手柄无法配对，但泄露图与监管文件吻...
Vercel Connect新增可观测性支持
Vercel Connect新增可观测性功能，提供令牌生命周期的行级可见性，包括创建者、使用应用、时间和活跃状态。连接器详情页新增“可观测性”标签，支持运...
你的AI智能体记住了一切。当它的主人改变时会发生什么。
中国监管机构要求Meta撤销对AI智能体初创公司Manus约20亿美元的收购，Manus将恢复独立运营。分离过程中部分用户数据将被删除，受影响用户需在8月...
FCC文件显示Sonos新款耳机即将推出
FCC文件显示Sonos将推出新款耳机Sonos Ace Ultra，型号S52A，预计今秋发布。提供五种颜色，可能支持Wi-Fi流媒体。初代Ace因应用...