💡
原文中文,约1500字,阅读约需4分钟。
📝
内容提要
本文介绍了Ollama和AnythingLLM的安装与使用步骤,包括系统要求、安装包下载、命令行验证、配置AnythingLLM及文件上传。AI根据知识库回答问题,并提供引用来源,所有数据存储在指定目录。
🎯
关键要点
- 系统要求:win10及以上,硬盘空间10G以上,CPU要求Intel Core i5/AMD Ryzen 5及以上,GPU无强制要求但1GB显存可提升性能。
- Ollama安装步骤:访问Ollama官网下载安装包,双击安装程序,点击Install进行一键安装,安装完成后程序自动退出。
- Ollama验证步骤:使用win+r打开运行对话框,输入cmd打开命令行,输入ollama --version验证安装成功。
- DeepSeek安装步骤:在命令行输入ollama run deepseek-r1:1.5b快速安装模型,安装成功后可通过输入who are you进行验证。
- AnythingLLM安装步骤:访问官网下载安装包,双击安装程序,若被防火墙拦截需选择仍要运行,选择安装位置后点击安装。
- AnythingLLM配置步骤:首次启动点击Get started,设置工作区名称,进入设置界面配置LLM首选项,选择Ollama并保存更改。
- AnythingLLM使用步骤:创建工作区后上传文件,加载到本地知识库,点击Save and Embed完成配置,开始新对话后AI根据知识库回答问题。
- 知识来源确认:在AI回答底部点击Show Citations查看引用的知识。
- 数据存储位置:所有与AnythingLLM Desktop有关的数据存储在C:\Users\AppData\Roaming\anythingllm-desktop\storage目录下。
- 各文件夹含义:lancedb存储本地矢量数据库,documents存储上传文件的解析内容,vector-cache存储缓存和嵌入表示,models存储LLM或Embedder模型,anythingllm.db为SQLite数据库,plugins存储自定义代理技能。
➡️