小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
Hugging Face推出透明模型基准评估的Community Evals

Hugging Face推出Community Evals功能,允许在Hub上创建基准数据集排行榜并自动收集评估结果。该系统基于Git基础设施,确保提交的透明性、可版本化和可重复性。用户可通过拉取请求提交评估结果,提升评估的一致性和可追溯性,目前处于测试阶段。

Hugging Face推出透明模型基准评估的Community Evals

InfoQ
InfoQ · 2026-02-19T10:55:00Z

斯坦福大学发布了差异感知基准数据集,包含8个基准测试,旨在评估AI模型的公平性表现,推动AI技术与社会价值的结合,从「无差别公平」转向「差异感知公平」。

ACL 25最佳论文!斯坦福大学发布差异感知基准数据集,构建差异感知公平;Self Forcing实现亚秒级延迟的实时流视频生成

HyperAI超神经
HyperAI超神经 · 2025-08-04T09:15:02Z

本文介绍了高质量基准数据集CLEVER,包含161个专注于代码生成验证的问题。CLEVER避免了测试用例监督,确保输出通过Lean类型检查器验证,揭示了程序合成和形式推理的挑战。

CLEVER:一个经过精心策划的形式化验证代码生成基准

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-20T00:00:00Z

本文研究了大语言模型(LLMs)在关键行业中的安全性,特别是恶意查询导致的数据泄漏风险。通过建立基准数据集,比较了13种安全工具的有效性,发现Lakera Guard和ProtectAI LLM Guard表现最佳,并提出了改进建议。

评估大语言模型安全解决方案的有效性:Palit基准数据集

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-19T00:00:00Z

本研究提出了CXMArena,一个用于评估AI在客户体验管理中表现的新型合成基准数据集。研究显示,最新模型在该基准上的准确率仅为68%,面临显著挑战。

CXMArena:用于基准测试真实客户体验管理场景的统一数据集

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-14T00:00:00Z

本研究评估了实时视频语言模型在辅助视觉障碍者中的有效性,构建了基准数据集(VisAssistDaily)。结果显示,GPT-4o在任务成功率上表现最佳。此外,提出了环境意识数据集SafeVid,以检测动态环境中的潜在危险,为未来研究提供了启示。

I Can See Forever!: Evaluating Real-time Video Language Models to Assist Individuals with Visual Impairments

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-07T00:00:00Z

本研究提出了MedArabiQ基准数据集,涵盖七个阿拉伯医疗任务,旨在解决大型语言模型在阿拉伯医疗领域应用不足的问题。通过评估多个顶尖模型,强调创建高质量基准的重要性,以确保公平部署和扩展性。

MedArabiQ: Benchmarking Large Language Models for Arabic Medical Tasks

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-06T00:00:00Z

本研究提出了一种新算法DEAN(深度集成异常检测),能够有效学习正常数据模式。DEAN在121个基准数据集上超越了19种现有方法,展现了其竞争力和可靠性。

Unsupervised Alternative Anomaly Detection

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-29T00:00:00Z

本研究探讨了人工智能在地球观测中的可靠性,提出基准数据集以评估AI能力。通过微调合成数据,提升了开放模型的表现,使小模型在准确性上与大模型相当。研究强调在实现AI自动化地球观测前需解决的关键挑战,并指明未来研究方向。

面向地球观测的LLM智能体

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-16T00:00:00Z

该研究提出了Mobile-MMLU,这是一个专为移动智能设计的大规模基准数据集,旨在评估大型语言模型在移动设备中的表现,重点关注推理延迟和能量消耗等关键指标,为移动计算环境中的智能应用提供标准化评估框架。

Mobile Intelligence Language Understanding Benchmark: Mobile-MMLU

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-26T00:00:00Z

本研究提出了OpenSDID基准数据集,旨在解决开放世界中识别扩散生成图像的挑战。通过协同预训练模型和MaskCLIP模型,显著提升了检测和定位能力。

OpenSDI:在开放世界中识别扩散生成图像

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-25T00:00:00Z

本研究提出了镜头序列排序(SSO)任务,以满足短视频制作对专业编辑技能的需求。通过引入新的基准数据集和评价指标,研究表明该方法显著提高了SSO任务的准确性,推动了相关领域的发展。

Shot Sequence Ordering for Video Editing: Benchmarks, Metrics, and Cinematology-Inspired Computational Methods

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-23T00:00:00Z

本研究通过引入新基准数据集和增数据方案,旨在增强通用信息提取(UIE)的鲁棒性。实验结果表明,仅使用15%的数据即可提升7.5%的性能。

面向强健的通用信息提取:基准测试、评估与解决方案

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-05T00:00:00Z

本研究提出了一种新颖的梯度共现分析方法GradCoo,克服了现有危险提示检测对大数据的依赖,提升了检测准确性,并在多个基准数据集上优于现有技术。

大规模语言模型中基于梯度共现分析的危险提示检测

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-18T00:00:00Z

本研究提出了新基准数据集TGB-Seq,旨在提升时序图神经网络对复杂序列动态的学习能力。研究表明,现有模型在该基准上的表现不佳,为未来研究提供了挑战与机遇。

Temporal Graph Benchmark: Challenging Complex Sequence Dynamics in Temporal Graph Neural Networks

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-05T00:00:00Z

本研究提出了一种新型视觉基础模型,旨在提升数字病理领域的模型性能。该模型在120万张组织病理图像上进行训练,并在21个基准数据集上取得优异表现,展现出显著的应用潜力。

Atlas: A Novel Pathology Foundation Model from Mayo Clinic, Charité Hospital, and Aignostics

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-01-09T00:00:00Z

本研究探讨了三分法推理在法律判决预测中的应用,并提出了包含无罪判决的基准数据集LJPIV。实验结果表明,整合三分法推理显著提高了判决预测的准确性,尤其在无罪判决案例中效果明显。

Beyond Guilt: Legal Judgment Prediction Based on Trichotomous Reasoning

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-12-19T00:00:00Z

本研究提出ASDnB模型,解决主动说话者检测中身体动态特征利用不足的问题。该模型通过整合面部与身体信息,在复杂条件下表现优异,实验结果在多个基准数据集上达到最先进水平。

ASDnB: Integrating Facial and Bodily Cues to Enhance Robustness in Active Speaker Detection

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-12-11T00:00:00Z

本研究探讨了地球观测产品不确定性量化的可靠性,提出了三个专门设计的基准数据集,以比较不同的不确定性量化方法。这些数据集涵盖回归、图像分割和场景分类等问题,促进了机器学习模型输出质量的准确评估。

不确定性估计的可靠性如何?针对机器学习中不确定性量化的三个新型地球观测数据集的基准测试

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-12-09T00:00:00Z

本研究提出了Interaction-to-Code任务,填补了自动化网页设计中对动态交互元素的忽视,构建了包含97个网页和213种交互的基准数据集,揭示了多模态语言模型在生成交互特征方面的局限性,并提供了提升性能的关键因素。

互动到代码:我们距离自动化交互网页生成还有多远?

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-05T00:00:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码