律师因在谋杀案中使用AI虚构证人被罚款5000美元
内容提要
新墨西哥州最高法院对律师斯蒂芬·阿伦斯罚款5000美元并判其藐视法庭，因其在谋杀案上诉中使用ChatGPT生成虚假证人和警方证词。法官指出律师依赖AI幻觉已成常见问题，阿伦斯称是无心之过。
延伸解读
AI幻觉在法庭上的现实风险
本案中，律师斯蒂芬·阿伦斯使用ChatGPT生成的虚假证人和警方证词被纳入上诉文件，导致其被罚款并判藐视法庭。这并非孤立事件，法官指出律师依赖AI幻觉已成常见问题。AI工具可能编造看似合理但完全虚构的法律引用和事实，若未经核实直接提交法庭，会严重损害司法程序。读者应意识到，AI生成内容在专业领域需严格验证，尤其是法律文书。
律师使用AI的常见误区与后果
阿伦斯称自己以为ChatGPT能生成“无懈可击的摘要”，这反映了许多律师对AI能力的误解。实际上，AI并不理解法律逻辑，其输出可能包含虚假信息。新墨西哥州最高法院的处罚表明，法院对AI生成内容的审查日益严格。此前已有法官批评律所提交含虚假引用的文件，MyPillow律师也因AI生成错误引文被罚。律师若忽视核实义务，可能面临罚款、藐视法庭甚至更严重的职业处罚。
对法律从业者的警示
此案提醒法律从业者，使用AI工具时必须保持警惕。法官质问阿伦斯是否关注新闻，暗示AI幻觉问题已广为人知。律师不能以“无心之过”为由推卸责任，因为核实事实和法律依据是基本职业要求。随着AI在法律工作中普及，法院可能加强审查，律师应建立内部核查流程，避免因依赖AI而损害客户利益和自身信誉。
Q&A
律师斯蒂芬·阿伦斯为什么被罚款5000美元？
因为他在谋杀案上诉中使用ChatGPT生成了虚假的证人和警方证词，且未核实这些内容，被新墨西哥州最高法院判处罚款5000美元并藐视法庭。
阿伦斯在谋杀案上诉中具体使用了哪些AI生成的内容？
他使用了AI生成的虚假证人证词，以及关于枪手衣着和外貌的虚假证词。
法官对律师依赖AI幻觉的态度是什么？
法官C. Shannon Bacon质问阿伦斯是否看新闻，并指出律师依赖AI幻觉的问题每天都是头条新闻，表明对此类行为持严厉批评态度。
阿伦斯如何解释自己使用ChatGPT的行为？
阿伦斯承认使用ChatGPT，并以为它会生成一份“无懈可击的摘要”，他称这是一个无心之过，并表示悔恨。
除了阿伦斯，还有哪些律师因使用AI生成虚假内容受到处罚？
去年，一名法官批评两家律师事务所提交了包含大量虚假、不准确和误导性法律引用的简报；MyPillow的迈克·林德尔的律师也因在简报中放入AI生成的错误引用和虚假引用而被罚款。
律师使用AI工具导致虚假引用的问题有多普遍？
随着越来越多的律师在工作中使用AI工具，法院发现AI伪造或幻觉引用的案例也在增加，已成为一个常见问题。
