本研究提出XY-Serve系统，解决了生产级大语言模型服务中的工作负载变异性问题，显著提升了AI加速器效率，端到端吞吐量提高了89%。

本研究提出了一种新颖的离线强化学习算法——直接优势策略优化（DAPO），旨在解决大语言模型推理中的稀疏奖励和不稳定性问题。实验结果表明，DAPO在数学和代码处理能力上有显著提升。

本研究提出了一种新方法，结合大语言模型与视觉语言模型，解决视频异常检测中的可解释性和时间推理挑战，提升检测能力，推动少样本和零样本检测应用。

本研究提出了一种基于参数中心的方法，解决大语言模型服务中的GPU内存耗尽问题。KUNSERVE通过选择性丢弃复制参数，节省内存并提升服务性能，尾部响应时间减少高达27.3倍。

随着生成式AI技术的发展，大语言模型（LLM）的评估变得愈发重要。评估方式包括人工和自动，后者提高了效率并降低了成本。本文介绍了一种基于亚马逊云科技的自动化评估方案，涵盖数据输入、执行和结果处理，支持多维度分析。评估结果显示，Claude Sonnet 3.5在准确性和稳定性上优于Llama 3.2，为企业提供了可靠的模型选择依据。

模型微调涉及选择合适的框架和方法，如全参数微调、PEFT和LoRA。需考虑计算资源和性能，使用Amazon SageMaker或ModelHub可简化操作。监控指标包括loss和准确度，若结果不理想，可通过数据增强和调整超参数优化。微调是一个循环迭代的过程，最终需评估模型效果并进行部署。

随着大型语言模型的发展，微调技术成为提升模型在特定任务表现的关键。微调适用于专业知识增强、任务优化和语言本地化等场景。成功微调依赖于高质量数据集，需经过数据获取、清洗和质量控制等步骤。通过传统和基于LLM的数据扩增方法，可以提高数据多样性，进而提升模型性能。数据准备是一个迭代过程，需要根据模型表现不断调整。

本研究利用大语言模型分析心理治疗师的言辞，填补自动化分析工具的需求。通过BERTopic工具，识别不同治疗师的语言模式，为提升治疗效果和临床监督提供新视角。

该研究提出了HumanVBench基准，旨在评估多模态大语言模型在视频理解中的表现。通过设计17个任务，衡量视频模型在情感、行为和语言复杂性方面的性能限制，推动该领域的发展。

本研究解决了现代大语言模型（LLMs）在模糊问答任务中的准确性和引用表现的不足。我们提出了一种冲突感知的提示方法，显著提高了模型处理多重有效答案的能力及引用准确性。研究结果强调了应对模糊性和提供可靠引用材料的重要性，为未来可信赖的问答系统的改进奠定了基础。