作者测试了B站Index翻译模型(2B/9B量化版及官方35B-A3B API),发现模型对提示词高度敏感,中文及Hy风格提示词得分更高,9B效果有时反低于2B。vLLM部署需设temperature=0并加frequency_penalty以防重复死循环,输出超1k易丢失换行。官方API速度快,但日文小说翻译仍不及Hy-MT2-30B-A3B。作者据此选择:沉浸式翻译用Index官方API,小说翻译继续用Hy-MT2。
完成下面两步后,将自动完成登录并继续当前操作。