Asterisk*: 保持简约

本研究提出了Asterisk，一种紧凑的基于GPT的文本嵌入生成模型，解决了模型规模与性能之间的权衡问题。通过从大型预训练模型中提取知识，Asterisk在多种下游应用中实现了零样本分类的中等性能，并在特定分类任务上表现出接近或超过大型架构的潜力。