2024年中AI感悟
内容提要
这篇文章讨论了作者在使用AI工具时的感悟，强调了善于详细描述问题、利用AI搜索功能节省时间和提高效率的重要性，以及AI依赖基础设施的重要性。文章还提到了小型模型在某些场景下同样能发挥高质量能力，以及利用AI进行创造性思考的可能性。最后，指出AI未来可能替代一些简单、重复的工作。
延伸解读
AI工具投入与效率提升
作者在一年半内直接花费约4000元用于AI服务，包括包月工具和API，认为这是最值的自我投资，带来10倍效率提升，成为100x程序员。这反映了AI工具对个人生产力的实际影响，但投入产出比因人而异，需结合自身需求评估。
AI搜索依赖高质量基础设施
AI搜索能精准理解意图，但效果依赖底层搜索结果质量，如Kagi基于自身高质量结果集。Perplexity使用Google API，若被切断则能力下降。这表明AI应用的能力下限由基础设施决定，单纯依赖大模型的应用场景有限。
小模型与成本优化策略
特定任务如情感识别、错别字检测，小模型能以百分之一成本达到SOTA效果。产品验证PMF后，需考虑TCPMF，即技术成本与市场契合，确保可持续盈利。本地部署还能满足数据安全需求，并可能降低大规模token成本。
利用幻觉激发创造力
大模型的幻觉可视为想象力，在角色扮演、写作、头脑风暴等需要创造力的领域，能产生超越常规的联想。作者建议将幻觉视为可控开关，而非完全消除，以发挥其正面价值。
Q&A
如何提高使用AI工具的效率？
详细描述问题是提高使用AI工具效率的关键，传统搜索引擎的使用习惯需要转变。
AI的能力依赖于什么？
AI的能力依赖于基础设施，基础设施决定了AI的能力下限。
小型模型在AI应用中有什么优势？
小型模型在特定场景下可以以更低的成本完成高质量任务，不一定需要使用大型模型。
AI未来可能替代哪些工作？
AI未来可能替代简单、重复的工作，但高级工作仍需人类参与。
如何利用AI的幻觉特性？
利用AI的幻觉特性可以激发创造力，适用于角色扮演和写作等领域。
在产品开发中，技术成本与市场契合的重要性是什么？
产品开发应关注技术成本与市场契合，以确保可持续发展。
