小马智行与北汽新能源联合推出的第300台极狐阿尔法T5 Robotaxi下线，标志着千台Robotaxi车队目标的推进。该车型具备L4级自动驾驶能力，预计将在国内一线城市投放，并探索国际市场。

GLM是一种通用语言模型，通过自回归填空预训练，结合2D位置编码和混合任务训练，提升了自然语言理解与生成的性能。实验表明，GLM在多个任务上优于BERT和T5，展现了其灵活性和可推广性。

本研究提出了一种基于Flan-T5的编码解码模型FlanEC，旨在改善自动语音识别中的语言和语法错误。通过扩展训练数据和多样化数据集，显著提升了错误修正效果。

本研究解决了约鲁巴文自动加音系统评估的缺乏标准数据集的问题，提出了约鲁巴文自动加音基准数据集（YAD）。通过对T5模型进行预训练，我们证明该模型在多个多语言训练的T5模型中表现优越，且更多的数据和更大的模型有助于提高约鲁巴文的加音效果。

本研究比较了临床T5模型与FLAN调优的通用T5模型在临床数据上的表现，结果显示临床T5模型在某些任务上仅有微小提升，且在不同领域的评估中表现较差，为未来临床大语言模型的开发提供了指导。

本研究提出了一种新颖的生成模糊系统框架（GenFS），结合深度学习与模糊系统，以改善生成模型的输出理解与控制。FuzzyS2S模型在多个任务中表现优于传统的Transformer及先进模型T5和CodeT5。

团队SCaLAR在《SemEval-2024任务5》中提出了一种无监督方法，通过相似度和距离生成标签，解决法律论证的二元分类问题。结合CNN、GRU、LSTM和Legal-Bert嵌入，处理法律文本复杂性。引入基于T5的分段摘要，提升模型性能。无监督系统在开发集和测试集上分别提高了20和10个百分点，显示了其有效性。

我们开发了ComplexityNet，一个精简的语言模型，用于评估任务复杂性。在Python问题上的准确率达到79%，远高于未微调模型的34%。ComplexityNet减少了90%的计算资源，代码生成准确性保持在86.7%。研究表明，微调小模型可以在准确性和效率之间取得平衡，为资源有限的环境提供优化方案。

该论文综述了大型语言模型的知识蒸馏技术，包括白盒和黑盒蒸馏方法，评估任务和蒸馏效果，并提出了未来研究方向。为研究人员提供了有价值的资源。

将语音理解能力整合到预训练的大型语言模型已成为一个重要的研究方向。我们提出了 BESTOW 架构，将两个世界中的最佳特征整合到一个单一的模型中，具有高效和强大的多任务能力。同时，我们改进了可流式处理的 SpeechLLM，并展示了在广泛的语音任务上取得了非常强的性能。

本研究提出了一种名为LLM-TTA的技术，通过增强方法改善BERT和T5模型在情感、毒性和新闻分类任务上的鲁棒性，同时减少增强数量。该技术适用于不同任务模型和资源环境。

本文介绍了一种使用链式思维方法（THOR）进行情感表达的大型语言模型指令调整的方法。通过推理修订和发言人情绪状态的修订，该方法在竞赛中取得了不错的成绩。

指令调优是改善大型语言模型对未知任务性能的方法，通过最大化语义上等效的指令实例对的相似性，最小化不同语义的实例对之间的相似性。实验证明，对比指令调优能够提升大型语言模型对未知指令的稳健性，平均准确率提高了2.5%。

本文介绍了开发mLongT5的工作，它是一种适用于处理长输入的多语言高效文本到文本转换器。作者评估了该模型在多语言摘要和问答任务上的表现，并与mBART和M-BERT进行了比较，结果显示mLongT5性能更强。

本文研究了无监督原始数据改善自然语言模型预训练的方法，提出了三种替代BERT的预训练目标，并介绍了自监督预训练任务与下游应用结构对齐的方法，展示了在多个任务上的性能提升。

本文介绍了GPT、BERT、T5、GPT2和GPT3等语言模型及其应用，包括语言理解、迁移学习和问答任务。还提及了Chinchilla、LLaMA和HyDE等模型优化方法和技术。文章为语言模型提供了阅读清单。