人工智能与炒作周期：被高估、被忽视，最终……不可或缺？
内容提要
生成式人工智能（AI）正处于 hype 循环的高峰期，尽管大型语言模型如 ChatGPT 引发了广泛关注，但其实际能力有限，无法进行推理或理解意图。我们需谨慎对待初期热情，避免错失潜在机会，同时关注技术的伦理和社会风险。
延伸解读
炒作周期的现实影响
文章指出，大型语言模型目前处于Gartner炒作周期的“过度期望的高峰”。这种炒作可能导致两个问题：一是早期采用者因期望过高而实施不当，造成资源浪费；二是当技术未达预期时，可能迅速跌入“幻灭的低谷”，使潜在价值被忽视。因此，读者应警惕炒作带来的扭曲，既不过度追捧，也不全盘否定。
技术能力的边界与局限
大型语言模型无法进行推理或理解意图，仅根据训练数据预测下一个单词。它们可能自信地输出错误信息，缺乏真实声音，甚至捏造引用。尽管在创意任务（如写报告、写代码）中可能有变革潜力，但当前能力有限。读者需认识到这些局限，避免将其拟人化或过度依赖。
长期影响与预测的困难
根据阿玛拉定律，人们常高估技术的短期影响，低估长期影响。互联网在90年代中期的炒作与当前AI热潮相似，但社交媒体作为“杀手级应用”及其带来的虚假信息问题难以预测。大型语言模型可能类似：短期被高估，长期可能不可或缺，但具体形态和影响仍不确定。
伦理与社会风险
文章提醒关注大型语言模型的伦理和社会风险：监管滞后可能使人们暴露于有偏见的模型决策；训练数据涉及版权问题；技术成本较低，可能被用于大规模生成虚假信息。若使用不当，其看似合理的输出可能污染互联网，侵蚀对书面交流的信任。
Q&A
生成式人工智能的实际能力有哪些局限性？
生成式人工智能无法进行推理或理解意图，只能根据大量文本预测下一个单词，无法解决数学问题或识别新知识。
什么是Gartner定义的炒作周期？
炒作周期描述了新技术从初期热情到最终接受的过程，包括过度期望的高峰、失望的低谷和最终的生产力平台。
大型语言模型在创意任务中可能带来哪些变革？
尽管存在缺陷，大型语言模型可能在写作报告和编写代码等创意任务中具有变革潜力。
炒作对新技术的理解可能产生什么影响？
炒作可能扭曲我们对新技术潜力的理解，导致对其实际价值的忽视。
如何看待当前对大型语言模型的过度期望？
当前对大型语言模型的期望处于过度期望的高峰，可能无法实现宣传的潜力，需谨慎对待。
使用大型语言模型时需要注意哪些伦理和社会风险？
需要关注潜在的伦理和社会风险，包括版权问题和生成虚假信息的可能性，这可能会侵蚀对书面交流的信任。
