如鱼饮水
·
本地部署 Hy-MT2 翻译模型
💡
原文中文，约5700字，阅读约需14分钟。
📝
内容提要
腾讯于2026年开源了Hy-MT2翻译模型，支持本地部署，分为1.8B和7B两种尺寸，适合网页和PDF翻译。测试显示，7B模型在翻译质量上优于1.8B模型，尤其在使用Q4缓存量化时表现更佳。用户可通过调整参数和使用不同翻译插件来优化翻译效果。
🎯
关键要点
- 腾讯于2026年开源了Hy-MT2翻译模型，支持本地部署，分为1.8B和7B两种尺寸。
- 7B模型在翻译质量上优于1.8B模型，尤其在使用Q4缓存量化时表现更佳。
- 用户可以通过调整参数和使用不同翻译插件来优化翻译效果。
- LM Studio支持后台运行、自动加载和卸载模型，使用方便。
- 开启K&V缓存量化后，显存占用减少，推理速度提高。
- 测试结果显示，Q4量化的7B模型在BLEU分数上表现优于1.8B模型。
- 使用OpenAI v1格式的对话补全可以显著提升翻译效果。
- 沉浸式翻译插件Trancy和KISS Translator可以优化翻译结果，支持特定网站的翻译设置。
- 在Cherry Studio中创建助手可以简化长文翻译的操作，需注意上下文设置和输入长度。
❓
延伸问答
Hy-MT2翻译模型有哪些尺寸可供选择？
Hy-MT2翻译模型分为1.8B和7B两种尺寸。
7B模型在翻译质量上与1.8B模型相比如何？
7B模型在翻译质量上优于1.8B模型，尤其在使用Q4缓存量化时表现更佳。
如何优化Hy-MT2翻译模型的翻译效果？
用户可以通过调整参数和使用不同翻译插件来优化翻译效果。
LM Studio的主要功能是什么？
LM Studio支持后台运行、自动加载和卸载模型，使用方便。
开启K&V缓存量化有什么好处？
开启K&V缓存量化后，显存占用减少，推理速度提高。
沉浸式翻译插件Trancy的主要功能是什么？
Trancy插件可以添加自定义引擎，简化沉浸式翻译的配置。
➡️
