【实操聆思CSK6大模型开发板】三步把RAG知识库接到智能语音硬件上
💡
原文中文，约1900字，阅读约需5分钟。
📝
内容提要
大模型缺乏真正记忆功能，超出上下文限制会遗忘，专业领域知识训练不足。向量数据库可通过将文档转化为向量解决此问题，提高响应速度并降低成本。聆思CSK6开发板提供知识库方案，通过创建知识库、上传文档等步骤实现，设备连接后可优先从知识库获取结果。
🎯
关键要点
-
大模型缺乏真正的记忆功能，超出上下文限制会遗忘。
-
专业领域知识训练不足，导致在特定领域的问答能力有限。
-
向量数据库通过将文档转化为向量来提高响应速度和降低成本。
-
聆思CSK6开发板提供知识库方案，支持创建知识库和上传文档。
-
知识库创建流程包括新建知识库、上传文档和设置分片策略。
-
支持智能分片和自定义分片策略以提高检索效果。
-
在应用中引入知识库模块以增强语音交互处理流程。
-
完成云端配置后，设备可连接知识库并进行鉴权服务。
❓
延伸问答
大模型的记忆功能有什么局限性？
大模型缺乏真正的记忆功能，超出上下文限制时会遗忘之前的对话内容。
如何提高大模型在专业领域的问答能力？
可以通过向量数据库将文档转化为向量，提高响应速度并降低成本，从而增强专业领域的问答能力。
聆思CSK6开发板如何创建知识库？
在聆思大模型平台点击“知识库”模块，选择创建知识库，输入名称后即可完成创建。
上传文档到知识库需要注意什么？
上传的文档需转换为txt、doc或pdf格式，确保符合支持的格式后再进行上传。
如何设置知识库的分片策略？
可以选择智能分片或自定义分片策略，智能分片适合长文本，自定义分片支持使用正则表达式。
如何将知识库接入智能语音硬件？
完成云端配置后，将产品ID与密钥写入设备，即可连接知识库并完成鉴权服务。
➡️
