在本地计算机上利用AnythingLLM构建DeepSeek大模型本地知识库

在本地计算机上利用AnythingLLM构建DeepSeek大模型本地知识库

💡 原文中文,约1500字,阅读约需4分钟。
📝

内容提要

本文介绍了Ollama和AnythingLLM的安装与使用步骤,包括系统要求、安装包下载、命令行验证、配置AnythingLLM及文件上传。AI根据知识库回答问题,并提供引用来源,所有数据存储在指定目录。

🎯

关键要点

  • 系统要求:win10及以上,硬盘空间10G以上,CPU要求Intel Core i5/AMD Ryzen 5及以上,GPU无强制要求但1GB显存可提升性能。
  • Ollama安装步骤:访问Ollama官网下载安装包,双击安装程序,点击Install进行一键安装,安装完成后程序自动退出。
  • Ollama验证步骤:使用win+r打开运行对话框,输入cmd打开命令行,输入ollama --version验证安装成功。
  • DeepSeek安装步骤:在命令行输入ollama run deepseek-r1:1.5b快速安装模型,安装成功后可通过输入who are you进行验证。
  • AnythingLLM安装步骤:访问官网下载安装包,双击安装程序,若被防火墙拦截需选择仍要运行,选择安装位置后点击安装。
  • AnythingLLM配置步骤:首次启动点击Get started,设置工作区名称,进入设置界面配置LLM首选项,选择Ollama并保存更改。
  • AnythingLLM使用步骤:创建工作区后上传文件,加载到本地知识库,点击Save and Embed完成配置,开始新对话后AI根据知识库回答问题。
  • 知识来源确认:在AI回答底部点击Show Citations查看引用的知识。
  • 数据存储位置:所有与AnythingLLM Desktop有关的数据存储在C:\Users\AppData\Roaming\anythingllm-desktop\storage目录下。
  • 各文件夹含义:lancedb存储本地矢量数据库,documents存储上传文件的解析内容,vector-cache存储缓存和嵌入表示,models存储LLM或Embedder模型,anythingllm.db为SQLite数据库,plugins存储自定义代理技能。

延伸问答

在本地计算机上安装Ollama的步骤是什么?

访问Ollama官网下载安装包,双击安装程序,点击Install进行一键安装,安装完成后程序自动退出。

DeepSeek模型如何安装和验证?

在命令行输入ollama run deepseek-r1:1.5b安装模型,成功后输入who are you进行验证。

AnythingLLM的系统要求是什么?

需要Windows 10及以上,硬盘空间10G以上,CPU要求Intel Core i5/AMD Ryzen 5及以上,GPU无强制要求但1GB显存可提升性能。

如何配置AnythingLLM以使用Ollama?

首次启动AnythingLLM后,点击Get started,设置工作区名称,进入设置界面选择Ollama并保存更改。

如何在AnythingLLM中上传文件并创建知识库?

点击创建的工作区,选择upload a document上传文件,选中后点击Move to Workspace,再点击Save and Embed完成配置。

如何查看AI回答的知识来源?

在AI回答底部点击Show Citations即可查看引用的知识来源。

➡️

继续阅读