Talk Is Not Cheap

Talk Is Not Cheap

💡 原文中文,约5400字,阅读约需13分钟。
📝

内容提要

2023年是AI的特殊一年,预训练大语言模型(LLM)的出现强化了人的表达能力。LLM对于简单功能开发和记忆工作的完成有很大帮助。AI应用开发除了Prompt之外,RAG和Function Call也很重要。未来,模型推理速度和费用需要降低,多模态和模型微调也很重要。

🔎

延伸解读

Prompt技巧的式微与开发者价值转移

文章指出,随着大模型能力提升,依靠Prompt技巧产生的差异化会越来越小。模型开发者会从源头优化模型,使“魔法词”的作用减弱。这意味着应用层开发者仅靠调整提示词难以构建长期壁垒,价值可能向模型侧或高质量数据(如RAG所需)转移。开发者需关注更核心的环节,如API集成与数据壁垒。

AI应用开发者的夹缝与模型侧的主导

作者认为,AI应用开发者与模型交互的手段仅有自然语言提示词,工作内容单薄,且模型侧可能轻易复制应用功能(如GPTs将RAG、Function Call挪至模型侧)。普通应用接入大模型更多是效率提升,难以创造新需求,营收大头可能被模型侧拿走。开发者需警惕被模型侧或云服务商替代的风险。

未来期待:速度、成本与模型控制力

文章强调,模型推理速度和费用需大幅降低才能推动AI应用爆发,长上下文支持也很关键。多模态数据将因文字数据可能耗尽而变得重要。此外,作者希望模型侧开放更多控制能力(如增强语句权重、格式化输出),并期待更便捷便宜的微调和API特化模型,以让开发者进行更复杂的操作和差异化竞争。

❓

Q&A

2023年AI领域发生了什么重要变化?

2023年是AI的特殊一年,预训练大语言模型(LLM)的出现强化了人的表达能力,并在简单功能开发和记忆工作中提供了很大帮助。

AI应用开发除了Prompt还有哪些关键技术?

除了Prompt,RAG(检索增强生成)和Function Call也是AI应用开发的重要技术。

为什么说LLM正在缩小程序员与自然语言描述之间的鸿沟?

LLM能够理解自然语言描述并生成代码,使得程序员可以用自然语言表达需求,减少了编写复杂代码与自然语言描述之间的差距。

普通开发者在AI革命中面临哪些挑战?

大模型的开发和应用由少数科学家和资本主导,普通开发者面临无力感;AI应用开发者的工作量可能被模型侧或云服务商抢走,且模型侧可能占据价值链的大头。

RAG和Function Call在AI应用开发中的核心价值是什么?

RAG的核心价值在于高质量或私密的高价值数据,Function Call的核心价值在于API,这回归到传统开发领域。

未来大模型需要在哪些方面改进以推动AI应用发展?

需要降低模型推理速度和费用,支持更长的上下文,发展多模态能力,开放更多对模型的控制能力,提供更便捷便宜的模型微调,以及API特化的模型。

🏷️

标签

➡️

继续阅读