💡
原文中文,约1300字,阅读约需3分钟。
📝
内容提要
System76发布了基于Rust开发的Linux桌面的alpha版本。Kalosm 0.3发布,提升了实时转录的性能。Starlane试图通过WebAssembly和资源抽象简化分布式应用开发中的基础设施工作。
🎯
关键要点
- System76发布了基于Rust开发的Linux桌面的alpha版本。
- Kalosm 0.3版本提升了实时转录的性能,LLM模型性能提升2-4倍。
- 引入采样器感知结构化生成优化,提高生成速度。
- 支持基于语音活动的音频流分块转录。
- 模型加载现在是异步的,可以跟踪加载进度。
- 增加了内联指南和概念解释,支持量化的Whisper模型和Phi-3系列模型。
- Starlane旨在减少基础设施代码的工作量,使用WebAssembly组件作为扩展。
- WebAssembly比容器更轻量和安全,比Java VM更安全。
- Starlane当前状态尚未准备好生产使用,代码已在GitHub开源。
- 未来计划包括继续完善安全性和编写更多详细文档。
➡️