“提示工程师”：一个即将过时的职业 [译]
内容提要
这篇文章讨论了AI领域的一个职位——提示工程师的作用和前景。提示工程师在开发和维护大语言模型时起着重要作用，需要调整模型以提高易用性和管理风险。然而，随着AI技术的进步，编写提示的技能可能会变得普及化，提示工程师的角色可能会逐渐消失。文章还提到了AI模型对不同输入的反应以及AI技术对就业市场的影响。
延伸解读
提示工程师的真实职责：不止于聊天框
文章指出，提示工程师并非仅在产品上试玩，而是深度参与数据集开发、模型维护和产品化。他们需要调整模型使其易用，并管理风险，例如通过红队测试防止有害信息泄露。这要求数据分析能力，远非日常在文本框里猜测。因此，这一角色对科技公司至关重要，但两年前更甚，随着技术进步，其必要性可能降低。
AI 的“人性化”悖论：能力提升与职业消失
现代提示工程充满实验性，甚至涉及道德哲学议题。例如，告诉模型“深呼吸”能提高数学解题能力，或暗示错误结果会导致死亡也能提升性能。这些现象令人困惑，但文章认为，AI 快速“人性化”的趋势可能意味着提示工程师职位将消失。因为模型越来越能理解用户意图，自动优化提示，使得编写提示的技能逐渐普及。
从提示工程师到解决方案工程师：职业演变
文章以 Dall-e 3 和 ChatGPT 为例，说明 AI 正变得更易用，能自动扩展和优化提示，甚至指导用户如何更有效互动。这导致编写提示的专业技能普及化，提示工程师角色可能消失。未来几个月，“真正的”提示工程师将转变为解决方案工程师，与客户紧密合作。这反映了 AI 对就业市场的快速变革，职业角色需适应变化。
Q&A
提示工程师具体负责哪些工作？
提示工程师不仅对成品进行试验，还参与开发和维护模型所需的数据集，调整模型使其易于使用，并负责风险管理，如通过红队攻击测试AI对恶意输入的应对。他们还需识别AI产品的优势与弱点，以协助市场推广。
为什么说提示工程师这个职业可能会消失？
随着AI技术的进步，编写有效提示的技能正在普及化。例如，Dall-e 3能自动优化用户提示，AI模型也变得更加易用，这使得编写提示不再需要专业技能，提示工程师的角色因此可能逐渐消失。
提示工程师在工作中会遇到哪些奇怪的现象？
提示工程师会发现一些反直觉的现象，比如告诉模型“深呼吸”能提高数学解题能力，或者警告模型“错误会导致无辜者死亡”能提升性能。这些现象涉及道德和哲学议题，令人困惑。
AI模型为什么需要理解“不良文本”？
为了避免AI模型复制不良内容，它必须理解“不良文本”的运作方式。例如，模型需要明白纳粹主义是什么，才能防止传播有关纳粹主义的知识。但这也带来了管理风险，错误的提示可能导致这些信息被揭露。
提示工程师如何测试AI的安全性？
提示工程师会采取“红队攻击”策略，测试AI如何应对恶意输入，仿佛自己是个恶劣用户。这种工作在产品公开发布前和发布后都在持续进行，以确保AI的安全性。
AI技术对就业市场有什么影响？
AI技术对就业市场影响巨大，职业角色需快速适应变化。AI创造的工作可能也是第一批消失的工作，例如提示工程师的角色可能逐渐消失，而“真正的”提示工程师可能转变为解决方案工程师。
