播客：Justin Sheehy谈人工智能炒作时代的负责任开发者
内容提要
在InfoQ Dev Summit Boston上，Akamai的Justin Sheehy发表了一场关于在人工智能炒作时代成为负责任开发者的开场演讲。他提醒开发者们要认识到自己的力量和责任，并不要被人工智能的炒作所迷惑。他强调了人工智能的定义和当前的炒作现象，并提出了一些关于使用人工智能的建议，包括避免夸大其能力、注意数据的来源和潜在的偏见，以及确保所构建的系统对人类有益、诚实和无害。他呼吁开发者们在决策中考虑到人们的利益、保持诚实和最小化伤害，以实现负责任的开发。
延伸解读
理解LLM的本质：概率性文本生成器
文章强调，当前的自回归语言模型（AR-LLM）本质上是基于统计和概率分布来预测下一个词，类似于高级自动补全。它们并不具备真正的理解、知识或意图，也无法被强制要求不产生错误。开发者应清醒认识到这一点，避免被其看似智能的输出所迷惑，从而做出更理性的技术决策。
警惕AI炒作：历史重演与证据缺失
文章指出，当前对AI的夸大宣传与60年前的炒作如出一辙，许多惊人主张缺乏实质证据。例如，有论文声称GPT-4具有通用智能的“火花”，但稍加改动测试条件即失败；还有文章宣称AGI已到来却未提供任何证据。开发者应保持批判性思维，要求看到可验证的证据，避免被名人或权威的言论误导。
负责任开发的实践：数据、偏见与问责
使用AI时，开发者需关注训练数据的来源和潜在偏见，避免将敏感数据发送给第三方服务，并谨慎使用LLM生成的内容，以防法律和伦理风险。文章建议通过测试工具检测模型偏见，并强调公司应对其产品负责，开发者应确保系统有益、诚实、无害，不夸大能力，不加剧炒作。
人类在循环中：AI背后的隐形劳动
文章以“机械土耳其人”和亚马逊无人店为例，揭示许多AI系统背后实际有大量人类参与，如RLHF依赖低薪工人标注数据。开发者应意识到，使用这些系统也意味着依赖他人的劳动，需考虑其中的伦理问题，并在构建系统时确保人类的价值和判断处于核心位置。
Q&A
在人工智能炒作时代，开发者应该如何认识自己的责任？
开发者需要意识到自己的决策对社会的影响，避免被炒作迷惑，做出负责任的技术选择。
人工智能的定义是什么？
人工智能是计算机程序，主要基于统计和概率分布，尤其是自回归语言模型（AR-LLMs）。
开发者在使用人工智能时需要注意哪些潜在偏见？
开发者应关注数据来源和潜在偏见，确保构建的系统对人类有益且诚实无害。
如何避免人工智能炒作带来的误导？
开发者应理性评估技术，避免被夸大的言论所迷惑，关注实质证据。
在构建人工智能系统时，开发者应遵循哪些原则？
开发者应遵循有益、诚实和无害的原则，以实现负责任的开发。
使用人工智能时，如何处理敏感数据以避免泄露？
开发者应谨慎处理敏感数据，避免将其输入到不受信任的系统中。
