LLM Prompt Engineering 实践:原型
💡
原文中文,约10000字,阅读约需24分钟。
📝
内容提要
本文介绍了使用 langchain 封装的 OpenAI 接口实现聊天机器人原型的过程,包括维护聊天历史和添加属性设定等功能。作者将代码做成命令行工具并发布到了 pypi。
🎯
关键要点
-
项目名称为 xorius,尚未定义具体含义。
-
选择使用 langchain 封装的 OpenAI 接口来实现聊天机器人原型。
-
需要通过代理访问 OpenAI 接口。
-
实现聊天历史的维护,以便进行连续对话。
-
需要限制输入和输出的 token 数以避免超出接口限制。
-
使用 tiktoken 库计算文本的 token 数。
-
实现选择最近聊天历史的功能以适应 token 限制。
-
可以为聊天机器人设置属性,如名字和性格。
-
最终将代码实现为命令行工具并发布到 pypi。
-
存在一些问题,如历史消息丢失、输出 token 数固定、温度参数全局设置等,后续将进一步讨论。
➡️