GPT 与 RETRO: 探索检索与参数高效微调的交集

应用 PEFT 方法对 RETRO 和 GPT 模型进行了比较分析，表明 RETRO 模型在零 - shot 设置中优于 GPT 模型，但 GPT 模型在 PEFT 方面具有更高的性能潜力。