在Heroku上使用ChatGPT功能

在Heroku上使用ChatGPT功能

💡 原文英文,约2500词,阅读约需9分钟。
📝

内容提要

Heroku推出了AI PaaS平台,简化应用程序的部署和扩展。开发者可以利用该平台构建基于OpenAI API的应用,如“菜单生成器”,用户输入食材后,系统生成菜品及食谱。该应用使用Node.js和React,支持快速、安全的托管,Heroku提供稳定的环境和持续的功能更新。

🔎

延伸解读

函数调用:让生成式AI输出结构化数据

文章重点介绍了OpenAI的函数调用功能。开发者可以定义函数名称、参数类型和描述,ChatGPT会返回符合该结构的JSON对象,而非自由文本。这使程序能直接解析响应并驱动前端更新,例如菜单生成器中的updateDish函数。该机制降低了将AI集成到现有代码中的复杂度,适合需要结构化输出的场景。

成本与模型选择:注意API调用费用

文章提醒每次食谱请求都会产生费用,且价格随所选模型变化。例如使用GPT-3模型时,花费1美元可请求超过3万次食谱。开发者可通过Heroku配置变量CHATGPT_MODEL指定模型,不同模型在能力、训练数据截止日期、速度和成本上存在差异。若不指定,应用默认使用gpt-3.5-turbo-1106。

部署与运维:快速上线但需管理成本

Heroku支持从GitHub一键部署,自动执行构建和启动命令,应用可在不到一分钟内上线。部署后需在设置中添加OPENAI_API_KEY等配置变量。文章特别提醒,使用完毕后应将dynos缩放至零,以避免产生不必要的费用。这种按需伸缩的方式适合演示或低频使用的生成式AI应用。

❓

Q&A

Heroku的AI PaaS平台有什么特点?

Heroku的AI PaaS平台旨在简化应用程序的部署和扩展,提供稳定的环境和持续的功能更新,支持多种编程语言。

如何使用Heroku构建基于OpenAI API的应用?

开发者可以通过Heroku Reference Applications获取示例项目,学习如何构建和部署基于OpenAI API的应用,如菜单生成器。

菜单生成器应用的功能是什么?

菜单生成器允许用户输入可用食材,系统生成菜品及食谱,并提供菜品描述和制作步骤。

在Heroku上部署应用的步骤是什么?

在Heroku上部署应用的步骤包括创建新应用、连接GitHub仓库、设置环境变量和点击“Deploy Branch”进行部署。

使用OpenAI API的成本如何计算?

使用OpenAI API时,每个菜单食谱请求会产生费用,具体费用取决于所选模型,例如使用GPT-3模型,花费1美元需请求超过30,000个食谱。

Heroku如何支持开发者专注于应用开发?

Heroku提供稳定的托管环境和持续的功能更新,使开发者能够专注于应用开发,而无需担心基础设施问题。

🏷️

标签

➡️

继续阅读