如鱼饮水
·
本地部署 Hy-MT2 翻译模型
内容提要
腾讯于2026年开源了Hy-MT2翻译模型，支持本地部署，分为1.8B和7B两种尺寸，适合网页和PDF翻译。测试显示，7B模型在翻译质量上优于1.8B模型，尤其在使用Q4缓存量化时表现更佳。用户可通过调整参数和使用不同翻译插件来优化翻译效果。
关键要点
-
腾讯于2026年开源了Hy-MT2翻译模型，支持本地部署，分为1.8B和7B两种尺寸。
-
7B模型在翻译质量上优于1.8B模型，尤其在使用Q4缓存量化时表现更佳。
-
用户可以通过调整参数和使用不同翻译插件来优化翻译效果。
-
LM Studio支持后台运行、自动加载和卸载模型，使用方便。
-
开启K&V缓存量化后，显存占用减少，推理速度提高。
-
测试结果显示，Q4量化的7B模型在BLEU分数上表现优于1.8B模型。
-
使用OpenAI v1格式的对话补全可以显著提升翻译效果。
-
沉浸式翻译插件Trancy和KISS Translator可以优化翻译结果，支持特定网站的翻译设置。
-
在Cherry Studio中创建助手可以简化长文翻译的操作，需注意上下文设置和输入长度。
延伸解读
模型选择的影响
在选择Hy-MT2模型时，7B模型在翻译质量上明显优于1.8B模型，尤其是在使用Q4缓存量化时。用户在部署时应考虑自身需求，若需要高质量翻译，建议优先选择7B模型。
缓存量化的优势
开启K&V缓存量化后，显存占用减少，推理速度提高，尤其在长文本翻译中表现更佳。用户应根据显卡性能和翻译需求，合理选择缓存量化类型，以优化翻译效果。
沉浸式翻译插件的使用
使用Trancy和KISS Translator等沉浸式翻译插件可以显著提升翻译体验。特别是KISS Translator，支持针对特定网站的翻译设置，用户在使用时需注意开启聚合功能以发挥术语表的作用。
延伸问答
Hy-MT2翻译模型有哪些尺寸可供选择？
Hy-MT2翻译模型分为1.8B和7B两种尺寸。
7B模型在翻译质量上与1.8B模型相比如何？
7B模型在翻译质量上优于1.8B模型，尤其在使用Q4缓存量化时表现更佳。
如何优化Hy-MT2翻译模型的翻译效果？
用户可以通过调整参数和使用不同翻译插件来优化翻译效果。
LM Studio的主要功能是什么？
LM Studio支持后台运行、自动加载和卸载模型，使用方便。
开启K&V缓存量化有什么好处？
开启K&V缓存量化后，显存占用减少，推理速度提高。
沉浸式翻译插件Trancy的主要功能是什么？
Trancy插件可以添加自定义引擎，简化沉浸式翻译的配置。
