jax - 走在路上
·
ollama常用命令
💡
原文中文，约500字，阅读约需2分钟。
📝
内容提要
本文介绍了ollama的常用命令，包括运行、拉取、查看和删除模型，以及查看运行数据和配置文件。用户可以修改模型参数、上下文窗口和GPU数量，并提供清除上下文和退出的指令。
🎯
关键要点
- 运行模型命令：ollama run 模型名称，若本地没有模型会自动拉取。
- 显示运行时性能数据：使用命令 ollama run –verbose 模型名称。
- 拉取模型命令：ollama pull 模型名称。
- 查看已安装模型：使用命令 ollama list，可以看到模型大小和安装时间。
- 删除模型命令：ollama rm 模型名称。
- 查看模型运行数据：使用命令 ollama ps，可以查看CPU/GPU占比等信息。
- 查看模型配置文件：使用命令 ollama show 模型名称 –modelfile。
- 从modelfile创建模型：使用命令 ollama create 模型名称 -f Modelfile。
- 修改模型参数：使用/set parameter num_thread 32修改线程数。
- 修改上下文窗口：使用/set parameter num_ctx 8192修改为8k。
- 修改GPU数量：使用/set parameter num_gpu 0进行纯CPU推理。
- 清除上下文命令：/clear。
- 退出命令：/bye。
- 获取帮助命令：/?
➡️
