实战经验：在 GoDaddy 运营 LLM 中学到的 10 个教训 [译]

自从ChatGPT发布以来，GoDaddy在AI方面进行了大量投资，利用大语言模型帮助客户创建网站内容和社交营销活动。

运营大语言模型存在挑战，如提示词不够用、结构化输出需小心处理、模型速度慢且不可靠、内存管理困难等。

GoDaddy建议持续微调和测试提示词，并建立报告系统和多领域审查团队。

提示词的使用需要在任务导向和开放式对话之间找到平衡。

结构化输出的生成需要注意验证和准确性，建议使用更高级的模型。

不同模型之间的提示词并不通用，需根据模型进行调整。

需要为AI应用程序设置安全措施，以减少次优AI决策的影响。

模型可能会很慢且不可靠，建议实施重试逻辑和流API以改善用户体验。

内存管理是开发对话式AI助手的挑战之一，需采用有效的策略来管理上下文。

自适应模型选择将是未来的发展方向，以应对可靠性和成本问题。

有效使用检索增强生成（RAG）可以提高模型的准确性和响应质量。

将数据集转换为对模型更有用的格式可以提高RAG的性能。

测试和监控AI系统是确保最佳性能的关键，建议建立必要的报告系统。