机器之心数据服务现已上线，提供高效稳定的数据获取，简化数据爬取流程。

机器之心数据服务已上线，提供高效稳定的数据获取，简化爬取流程。

本研究解决了大型语言模型（LLM）代理系统中由间接提示注入引发的安全风险，该攻击向量通过操纵上下文信息而非直接用户提示来破坏代理的核心功能。我们提出了一种通用的黑箱模糊测试框架AgentXploit，能够自动发现和利用这些间接提示注入漏洞。该方法在两个公共基准测试中表现出色，成功率达到71%和70%，并在实际环境中验证了其对代理的误导能力。

本研究旨在解决大语言模型在决策任务中出现的不安全和不期望输出的问题，特别是在安全关键场景下的失效检测。作者提出了一种新颖的方法，通过自适应压力测试和蒙特卡洛树搜索有效地探索提示扰动空间，从而识别导致语言模型高不确定性行为的场景和提示。该方法的显著发现是，可以在运行时自动生成影响模型不确定性的提示，从而支持实时的信任评估。

本研究提出了一种非竞争博弈方法，克服了黑箱生成AI环境中构建专家混合模型的局限性。通过反馈机制，我们的“专有联合学习”算法显著提升了时间序列预测的准确性。

本研究解决了大型语言模型（LLMs）易受对抗性越狱攻击的问题，这些攻击可绕过模型的安全机制。提出的攻击图（GoAT）方法通过图思想框架生成对抗性提示，具有更高的越狱成功率，且无需访问目标模型参数。此方法显著提高了对LLMs的鲁棒性测试效率，展现了深度集成和协作探索对抗性脆弱性的潜力。

本研究解决了现有黑箱攻击方法在无查询情况下的局限性，即它们通常需要目标模型的输出信息。作者提出了一种新颖的无查询硬黑箱攻击方法Q-FAKER，通过使用替代模型生成对抗示例，而无需访问目标模型。实验结果表明，该方法在八个数据集上表现出高迁移性和优秀的对抗示例质量，表明其在严格黑箱环境中的实际应用潜力。

华南理工大学计算智能团队研究多智能体系统的分布式共识优化问题，提出了MASOIE和MACPO等创新算法，解决智能体协作与优化挑战。这些研究在智能城市和无人系统等领域具有应用潜力，并推动相关竞赛，提升算法性能。

本研究提出了一种新颖的时间特征交叉注意机制（TFCAM），旨在提高临床预测模型的可解释性和准确性。通过对1422例慢性肾病患者的实验，TFCAM在预测终末期肾病方面优于传统模型，显示出其在临床透明度和预测性能上的潜力。

本研究解决了大型语言模型（LLMs）在生成内容时频繁出现幻觉的问题，尤其是在需确保事实准确性的应用场景中。我们提出了一种新颖的黑箱抽样方法FactSelfCheck，通过知识图谱以事实三元组的形式分析多次LLM响应的事实一致性，实现了细粒度的幻觉检测。实验结果表明，我们的方法在幻觉校正方面显著提高，事实内容提高了35%，相比之下，基于句子的SelfCheckGPT仅提升了8%。

本研究提出FDLLM模型，解决用户在不透明的大语言模型平台中无法识别所用LLM的问题。该模型通过改进文本指纹检测，提升了多语言、多领域场景下的检测效率，并构建了包含90,000个样本的FD-Datasets数据集，覆盖20种不同的LLM，实验结果显示其检测性能显著优于现有方法。

该研究解决了大型语言模型（LLMs）在进化优化中的适用性问题，提出了一套严格的评估标准以验证其输出的可靠性。同时，研究引入了一种强大的错误校正机制，并探索了一种直接作用于整个种群的高效方法。实验结果表明，LLMs在组合问题上的应用具有重要价值，为LLM基础的优化提供了新的见解和应用前景。