Introduction Alright, so you're playing around with LLMs – maybe building something cool. But here's the thing: getting them to work reliably? That's the tricky part. Sometimes they give you...

Current Large Language Models (LLMs) are predominantly designed with English as the primary language, and even the few that are multilingual tend to exhibit strong English-centric biases. Much...

本研究针对当前常识智能评估中的问题，提出了一种新颖的方法，考虑了人类在常识理解上的异质性。研究发现，大型语言模型的常识能力普遍低于人类中位数，并且这些模型与真实人类在共识上仅有适度的相关性，强调了将常识智能与文化基础相结合的重要性，推动了AI模型更好地适应不同社会知识背景的呼声。

本研究解决了大型语言模型（LLMs）在社交媒体数据中识别和注释人权侵犯问题的能力不足。通过比较多种前沿LLMs在零样本和少样本条件下的注释表现，发现这些模型在处理复杂文本数据时的独特错误模式。研究结果揭示了LLMs在多语言背景下的适用性和局限性，强调了在敏感领域应用这些模型的实际意义。

本研究解决了人工智能评估质量不足的问题，提出了J1，一个通过强化学习训练大型语言模型以提升其判断能力的方法。研究发现，该模型在多个基准测试中表现优于现有的其他模型，证明了新颖的奖励策略能够有效激励模型思考，减少判断偏差。

本研究探讨了大型语言模型在动态环境中的自我学习和推理能力，指出当前模型在计划、推理和空间协调等重要领域存在固有局限。通过系统评估自我反思、启发式变异和规划作为提示技术的有效性，结果显示更大的模型在一般表现上优于较小模型，但战略性提示能够缩小差距。此外，研究强调了推理方法的多样性，以及超出静态基准的研究必要性，以更全面捕捉推理的复杂性。

本研究解决了代码生成中存在的结构性重复问题，这是之前研究主要集中于内容重复之外的更广泛且具有挑战性的难题。提出了一种名为RPG的高效解码方法，通过利用语法规则识别重复问题，并逐步降低导致重复的关键令牌的概率，显著减少生成代码中的重复现象。实验结果表明，RPG在新构建的数据集CodeRepetEval及其它基准测试中明显优于现有方法，提升了生成代码的质量。

本研究探讨了生成大型语言模型与传统自然语言处理在医疗任务中的差异，并分析了19123项研究，发现生成模型在开放性任务中具有优势，而传统方法在信息提取和分析任务中占主导地位。随着技术的发展，确保其在医学应用中的伦理使用至关重要。

本研究解决了大型语言模型在网络安全应用中的安全风险问题。通过使用OWASP Top 10框架对多个开放源代码LLM进行评估，发现微调过程显著降低了模型的安全弹性。提出的安全对齐方法能够在确保技术实用性的同时，维护或提高模型的安全性，为开发更安全的微调方法提供了切实可行的途径。

本研究解决了渗透测试中成本高昂和频率低的问题。通过介绍AutoPentest这一基于LLM的应用，本研究展现了一种高自主性的黑箱渗透测试方法，并与传统手动方式进行了比较。结果表明，AutoPentest在执行复杂任务时表现优于人工界面，有望显著提升漏洞管理的效率。