极道
·
基于大模型的语音助手控制智能家居
💡
原文中文，约10900字，阅读约需26分钟。
📝
内容提要
本文介绍了作者如何创建一个本地运行的智能助手来控制家庭设备，具有幽默和讽刺的性格。作者详细介绍了硬件和软件架构，并解决了一些技术问题。最终成功创建了一个能够控制家庭设备并回答问题的智能助手。
🎯
关键要点
- 作者创建了一个本地运行的智能助手来控制家庭设备，具有幽默和讽刺的性格。
- 文章详细介绍了所使用的硬件和软件架构，包括Protectli Vault VP2420和TRENDnet TEG-3102WS等设备。
- 通过修改Chat模板和添加JSON支持，实现了GlaDOS式个性化回答和控制智能设备。
- 作者选择了vLLM作为推理引擎，因其速度快且支持多个客户端。
- 使用Mistral AI的Mixtral模型，选择了量化版本以适应资源限制。
- 智能助手能够控制家庭设备并回答用户问题，展现出GlaDOS的个性特征。
➡️
