开放源码的基于人工智能的软件工程工具：协作学习的机遇与挑战
内容提要
深度学习软件工程（SE4DL）研究了深度学习项目中常规软件工程工具与MLOps工具的使用情况，发现常规工具更为普遍。研究还探讨了大型语言模型（LLMs）在软件工程中的应用及挑战，强调数据集的重要性和模型可解释性，并建议共享代码和训练信息以提高可持续性和透明度。
延伸解读
常规工具为何更受青睐
研究发现，在深度学习项目中，常规软件工程工具的使用比MLOps工具更为普遍。这可能是因为常规工具更成熟、更易获取，而MLOps工具作为新兴领域，其采用可能面临学习成本或集成难度。这一现象提示，在推广MLOps工具时，需关注如何降低使用门槛并展示其相对于常规工具的优势。
LLM在软件工程中的安全与隐私挑战
文章指出，使用未经授权的代码构建大型语言模型会带来安全、隐私和版权问题。这提醒研究者和开发者，在利用LLM进行软件工程任务时，必须重视数据来源的合法性和模型输出的安全性。同时，文章提出了四条可行建议，为应对这些挑战提供了方向。
数据集质量与模型可解释性
系统文献综述强调，稳健且经过良好策划的数据集对于成功实施LLM至关重要。此外，提高人工智能模型的可解释性也是软件工程领域的重要研究方向。这意味着，在追求模型性能的同时，研究者和实践者应关注数据集的构建质量和模型决策的透明度，以增强可信度和可维护性。
共享代码与训练信息促进可持续性
调查发现，约40%的论文没有共享代码或训练过的工件，这阻碍了研究的可重复性和可持续性。文章建议共享源代码、训练工件以及训练所需时间和硬件配置的全面信息，以确保模型的碳足迹透明度。这种做法有助于推动领域内的协作和积累，减少重复劳动。
Q&A
深度学习软件工程（SE4DL）是什么？
深度学习软件工程（SE4DL）是将软件工程实践应用于深度学习软件的一个新领域。
在深度学习项目中，常规软件工程工具和MLOps工具的使用情况如何？
研究发现，常规软件工程工具在深度学习项目中的使用比MLOps工具更为普遍。
大型语言模型（LLMs）在软件工程中面临哪些挑战？
大型语言模型在软件工程中面临安全、隐私和版权问题。
如何提高大型语言模型的可持续性和透明度？
建议共享代码和训练信息，以提高模型的可持续性和透明度。
研究人员在使用未经授权的代码构建LLMs时应注意什么？
研究人员应注意安全、隐私和版权问题，并采取可行的建议来应对这些问题。
在深度学习项目中，数据集的重要性是什么？
稳健的数据集对于成功实施大型语言模型至关重要。
