开源项目LLama3推出,激活了开源领域。LLama3-8B在本地部署效果不错,但对中文支持效果不佳。推出了中文优化版Llama3-8B-Chinese。在Hugging Face上搜索'chinese'可找到相关微调结果。使用本地部署框架Ollama,搜索'chinese GGUF'可找到多个相关模型。选择一个试用并下载。编制modelfile文件后执行命令上线模型。
完成下面两步后,将自动完成登录并继续当前操作。