本文探讨了上下文学习中的知识劫持机制，分析了token预测中上下文信息与预训练知识的平衡。研究表明，结合两层变换器的诱导头机制与关联记忆，可以优化ICL的潜力。

本文提出了一个多模态讽刺目标识别框架，通过推理和预训练知识增强讽刺可解释性。实验结果表明，该模型在识别讽刺方面具有解释性。

本研究评估了使用基础模型的预训练知识作为FL模型初始化的教师对FL模型性能的影响。结果显示，在胸部X光肺分割任务中，FL模型初始化指导下的FL能更快收敛，并在复杂数据情境中提高性能。为FL中的模型初始化提供了新的视角。