LLM Prompt Engineering 实践:原型

💡 原文中文,约10000字,阅读约需24分钟。
📝

内容提要

本文介绍了使用 langchain 封装的 OpenAI 接口实现聊天机器人原型的过程,包括维护聊天历史和添加属性设定等功能。作者将代码做成命令行工具并发布到了 pypi。

🎯

关键要点

  • 项目名称为 xorius,尚未定义具体含义。

  • 选择使用 langchain 封装的 OpenAI 接口来实现聊天机器人原型。

  • 需要通过代理访问 OpenAI 接口。

  • 实现聊天历史的维护,以便进行连续对话。

  • 需要限制输入和输出的 token 数以避免超出接口限制。

  • 使用 tiktoken 库计算文本的 token 数。

  • 实现选择最近聊天历史的功能以适应 token 限制。

  • 可以为聊天机器人设置属性,如名字和性格。

  • 最终将代码实现为命令行工具并发布到 pypi。

  • 存在一些问题,如历史消息丢失、输出 token 数固定、温度参数全局设置等,后续将进一步讨论。

➡️

继续阅读