机器之心数据服务现已上线，提供高效稳定的数据获取，简化数据爬取流程。

机器之心数据服务已上线，提供高效稳定的数据获取，简化爬取流程。

本研究解决了大型语言模型（LLM）代理系统中由间接提示注入引发的安全风险，该攻击向量通过操纵上下文信息而非直接用户提示来破坏代理的核心功能。我们提出了一种通用的黑箱模糊测试框架AgentXploit，能够自动发现和利用这些间接提示注入漏洞。该方法在两个公共基准测试中表现出色，成功率达到71%和70%，并在实际环境中验证了其对代理的误导能力。

本研究旨在解决大语言模型在决策任务中出现的不安全和不期望输出的问题，特别是在安全关键场景下的失效检测。作者提出了一种新颖的方法，通过自适应压力测试和蒙特卡洛树搜索有效地探索提示扰动空间，从而识别导致语言模型高不确定性行为的场景和提示。该方法的显著发现是，可以在运行时自动生成影响模型不确定性的提示，从而支持实时的信任评估。

本研究提出了一种非竞争博弈方法，克服了黑箱生成AI环境中构建专家混合模型的局限性。通过反馈机制，我们的“专有联合学习”算法显著提升了时间序列预测的准确性。

本研究解决了大型语言模型（LLMs）易受对抗性越狱攻击的问题，这些攻击可绕过模型的安全机制。提出的攻击图（GoAT）方法通过图思想框架生成对抗性提示，具有更高的越狱成功率，且无需访问目标模型参数。此方法显著提高了对LLMs的鲁棒性测试效率，展现了深度集成和协作探索对抗性脆弱性的潜力。

本研究解决了现有黑箱攻击方法在无查询情况下的局限性，即它们通常需要目标模型的输出信息。作者提出了一种新颖的无查询硬黑箱攻击方法Q-FAKER，通过使用替代模型生成对抗示例，而无需访问目标模型。实验结果表明，该方法在八个数据集上表现出高迁移性和优秀的对抗示例质量，表明其在严格黑箱环境中的实际应用潜力。

华南理工大学计算智能团队研究多智能体系统的分布式共识优化问题，提出了MASOIE和MACPO等创新算法，解决智能体协作与优化挑战。这些研究在智能城市和无人系统等领域具有应用潜力，并推动相关竞赛，提升算法性能。

本研究提出了一种新颖的时间特征交叉注意机制（TFCAM），旨在提高临床预测模型的可解释性和准确性。通过对1422例慢性肾病患者的实验，TFCAM在预测终末期肾病方面优于传统模型，显示出其在临床透明度和预测性能上的潜力。

本研究解决了大型语言模型（LLMs）在生成内容时频繁出现幻觉的问题，尤其是在需确保事实准确性的应用场景中。我们提出了一种新颖的黑箱抽样方法FactSelfCheck，通过知识图谱以事实三元组的形式分析多次LLM响应的事实一致性，实现了细粒度的幻觉检测。实验结果表明，我们的方法在幻觉校正方面显著提高，事实内容提高了35%，相比之下，基于句子的SelfCheckGPT仅提升了8%。

本研究提出了一种新的贝叶斯优化算法MOBONS，旨在解决现代工业系统设计中的多目标平衡问题，尤其是在技术、经济和环境因素复杂交互的情况下，验证了其在可持续设计中的有效性。

本研究提出了一种多面攻击框架，解决了视觉大型语言模型在多层防御下易受复杂对抗攻击的问题。在八个商业 VLLM 的黑箱测试中，该方法实现了 61.56% 的攻击成功率，显著优于现有技术。

本研究提出了一种每次调用都至关重要（ECP）算法，旨在优化昂贵的非凸黑箱Lipschitz连续函数。ECP显著减少了功能评估次数，确保在无限评估预算下无遗憾表现，并在有限预算下达到最小最大遗憾界限。ECP在多个基准算法中超越了10种算法，展示了其在全球优化中的竞争力。