预训练代码智能语言模型的遗传自动提示学习
原文中文,约500字,阅读约需2分钟。发表于: 。作为预训练语言模型(PLM)的流行方法之一,为了解决其使用的计算成本过高的问题,我们研究了最近在自然语言处理领域中出现的一种潜在解决方案,即 prompt learning。我们发现现有的自动提示设计方法在代码智能任务中非常有限,无法达到预期效果。为了解决这两个问题,我们提出了一种名为 Genetic Auto Prompt(GenAP)的自动设计提示的细致遗传算法。GenAP...
这篇文章介绍了一种名为Genetic Auto Prompt(GenAP)的自动设计提示的细致遗传算法。该算法无需梯度或额外的计算成本,适用于代码智能任务的理解和生成类型。实验结果表明,GenAP在缺陷预测、代码摘要和代码翻译等任务中优于其他方法。