本研究探讨了大型语言模型（LLMs）在推理和组合能力方面的限制。尽管在75%的数据集上能够生成类人类的反应，但仍需进一步改进。这为理解LLMs的认知能力提供了重要见解。

研究发现，Transformer语言模型在学习离散算法方面的能力有限，效果不如重新学习所有子任务。复杂性理论的定理证明了在记忆前馈模型上的梯度下降可能在数据效率上低效。

该研究提出了一种新的训练目标，通过微调预训练模型实现一致性的T2I扩散模型，提高了个性化T2I模型的组合能力，并引入了控制图像保真度和提示保真度权衡的抽样方法。研究还强调使用详尽的标题作为参考图像，以增强图像和文本的对齐。

我们研究了Transformer语言模型在学习离散算法方面的能力。发现最先进的Transformer语言模型在组合能力上有限，效果不如重新学习所有子任务。同时证明了记忆前馈模型上的梯度下降可能在数据效率上指数级低效。

该研究提出了一种记忆增强神经模型，通过基于神经网络和具有符号功能的可变插槽进行变通泛化，实现变通组合能力。实验结果表明，在 well-known benchmark SCAN 上，该模型具有极强的组合泛化能力，以 100％精度解决了之前工作中面临的所有挑战。