该论文提出一种证据门控机制,将自主编码Agent的DONE声明转化为可验证证据,要求状态转换依赖新鲜、绑定的机械验证证据。实验显示,该机制将虚假通过案例从31例降至2例,错误传播概率降低两个数量级,并在实际应用中解决94.8%的问题,显著提升系统可靠性。
mAceReason-Math是一个高质量的多语言数学问题数据集,支持强化学习与可验证奖励(RLVR)研究。该数据集包含来自AceReason-Math语料库的挑战性数学问题翻译,覆盖14种语言,每种语言超过10,000个样本,旨在提升多语言RLVR的研究和基准测试。
真正的开源应具备可重现、可验证和可共创的特性,而不仅仅是可下载。在AI时代,许多模型虽然开放权重,但未公开训练数据和代码,导致“开源”与“开放权重”之间存在差异。传统开源强调源码的完整性和可重现性,而AI时代则更注重权重的开放性和可验证性。
Arc Institute与加州大学合作开发的机器学习架构State,能够有效预测细胞在不同环境下的反应,准确率提高超过50%,尤其在基因表达识别方面表现突出。
Viskify是一个全栈招聘平台,利用区块链技术和AI评分技能证书,帮助候选人展示技能。招聘者可根据证据筛选人才,发证机构可快速签署凭证。通过Permit.io外部化授权,提升了工作流效率。
本研究提出了一种可验证的模型评估方法,使用zkSNARKs进行模型推理,生成计算证明以证明模型在公开输入上的性能或公平度量指标,解决了真实世界模型可验证评估的挑战,提供了新的透明度范式。
该文介绍了一种通过SATNet学习可解释逻辑规则的方法,实现了逻辑推理和深度学习的交互。该方法通过可区分性学习生成可解释和可验证的逻辑规则,并引入验证技术进行验证。
随着数字化转型和互联网的发展,数据的生成、存储和流转场景也在增多。机密计算是一种计算模式,旨在保护数据的隐私和机密性。使用TEE硬件可以保护数据和程序的机密性和完整性,同时具备可验证的能力。未来TEE机密计算的一个探索方向是通过硬件来加强其计算能力。
该报告由30个组织的58位合著者共同撰写,提出10种机制以提高人工智能系统声明的可验证性。这些工具可帮助开发者证明AI系统的安全性、公平性和隐私保护,同时也为用户和政策制定者提供评估AI开发过程的手段。
完成下面两步后,将自动完成登录并继续当前操作。