用好 AI：TRIRO 框架
内容提要
本文介绍了使用AI大模型ChatGPT进行prompt engineering的方法，以有效训练AI为用户工作。讨论了LLM参数温度、Top P、最大长度、停止序列、频率惩罚和存在惩罚等概念。还解释了Token的概念和用法，以及语言模型的输入输出限制。最后，提到了TRIRO框架和Prompt Engineering的重要性。
延伸解读
LLM参数调节的实用要点
文章详细解释了温度、Top P、最大长度、停止序列、频率惩罚和存在惩罚等参数。温度越低结果越确定，适合事实型问答；温度越高越有创造性，适合诗歌生成。Top P控制核采样，低值选择高置信度响应，高值增加多样性。频率惩罚和存在惩罚都减少重复，但频率惩罚与出现次数成比例，存在惩罚对所有重复标记相同。建议不同时更改频率和存在惩罚。这些参数帮助控制模型输出的确定性和多样性。
Token：模型处理文本的基本单位
Token是模型预处理文本时将其转换为数字的基本单位，使计算机能处理。使用Token而非单词让LLM能处理更大量数据和复杂语言，更好地理解新词和语言细微差别。Token也是衡量文本大小的单位，LLM的运营费用与处理的Token数量成正比。语言模型有固定的输入输出大小限制，如GPT-3为4096个Token，GPT-4为8192或32768个Token。超出限制时常用滑动窗口截断上下文，但需积极截断为响应留出空间。
TRIRO框架与迭代的重要性
TRIRO框架包括任务、角色、迭代、参考和输出。任务需明确需求情景与目的；角色让AI扮演特定专业角色以收敛回答范围；迭代通过不断提问和引导产出更符合的答案；参考提供过往做法或理想答案；输出设定固定格式。作者强调迭代是关键，不应要求AI一次到位，而是通过追问和引导帮助AI聚焦和润饰。作者个人更倾向RTRIxO顺序，即角色、任务、循环（参考和迭代）、输出。
使用AI的核心原则与安全假设
文章强调别把AI当作搜索引擎，而是当作懂很多的学霸助理，其回答具有随机性，重点不是问什么而是怎么问。使用AI最重要的原则是别让GPT猜需求，将思维需求转换成文本请求。安全方面需谨记：始终假设坚定用户能绕过LLM的prompt约束，始终假设暴露在LLM中的任何数据最终都会被用户看到。这些原则帮助用户更有效地与AI协作并注意潜在风险。
Q&A
什么是TRIRO框架，它的组成部分有哪些？
TRIRO框架包括任务、角色、迭代、参考和输出五个部分。
如何通过prompt engineering有效训练AI？
通过明确需求，将思维需求转化为文本请求，并使用适当的提示策略来指导AI生成所需的输出。
LLM的温度参数如何影响生成结果？
温度越低，结果越确定；温度越高，结果越随机，适合创造性任务。
什么是Token，它在AI模型中的作用是什么？
Token是将数据转换为计算机可处理格式的基本单位，帮助模型更好地理解和处理语言。
如何使用Top P参数来控制模型的输出？
Top P控制模型的确定性和多样性，较低的值选择最有信心的响应，较高的值则允许更多样化的输出。
在使用AI时，为什么要避免模糊指令？
模糊指令会导致AI无法准确理解用户需求，从而产生不相关或不满意的结果。
