本研究探讨了可解释人工智能(AI)的最新进展,重点关注提升AI算法透明度的伦理因素和技术手段。可解释性与自主系统元推理之间存在紧密联系,这将推动未来可解释AI系统的发展。
本研究提出了一种新颖的持久工作流程提示(PWP)方法,旨在解决大语言模型在科学手稿评审中的数据限制和专家推理复杂性问题。该方法通过系统化的元提示和元推理,显著提升了评审过程的透明度和有效性。
本研究提出了TECTON系统,通过元推理增强大型语言模型在工具使用方面的能力,显著提升了数学推理任务的性能和泛化能力。
本文综述了多个评估大语言模型推理能力的基准:NPHardEval通过算法问题测试复杂推理并防止过拟合;多模态基准评估预测推理、顺序图像推理、数学推理及非语言抽象推理,发现模型存在幻觉且与人类差距较大;元推理评估揭示现有基准的缺陷;多主体环境基准显示GPT-4与Llama-2的差距达三倍。
该文综述大语言模型评估研究,指出LLM作评估器存在约40%认知偏差,机器偏好与人类不一致;现有基准在心理健康、法律、多主体决策等领域有局限,GPT-4表现突出但提升空间大。研究呼吁转向元推理等新范式,以更准确评估LLM认知能力。
本文重新定义了认识规范的形式化方法,并提出了多种语义,其中一种等同于原定义的Gelfond语义。从推理能力的角度分析了其复杂度,并证明了这个方法在需要元推理的问题中的有效性。
完成下面两步后,将自动完成登录并继续当前操作。