选择性-p:自监督任务无关提示压缩的真实性和可迁移性
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
本研究提出了一种自监督预训练技术,通过优化提示压缩解决模型迁移性不足的问题。Selection-p在多个分类任务中表现优异,压缩率达10倍,性能仅下降0.8%,并在不同模型间具有更好的迁移性。
🎯
关键要点
- 本研究提出了一种自监督预训练技术。
- 该技术通过优化提示压缩解决模型迁移性不足的问题。
- Selection-p在多个分类任务中表现优异。
- 压缩率达到10倍,性能仅下降0.8%。
- 该方法在不同模型间具有更好的迁移性。
➡️