一个针对大型语言模型的 S.C.O.R.E. 评估框架：安全性，共识性，客观性，可重复性和可解释性
内容提要
本文探讨了生成式大型语言模型（LLMs）的人工评估方法，提出了ConSiDERS-The-Human评估框架，涵盖一致性、评分标准等六个支柱。同时引入SECURE基准测试，评估LLMs在网络安全中的表现，并提出SciEval基准以解决数据泄露问题。最后，介绍了COGNET-MD工具包用于医学领域的评估，旨在提升LLMs的可靠性和实用性。
延伸解读
人工评估的跨学科必要性
文章指出，生成式大型语言模型的人工评估应借鉴用户体验研究和人类行为心理学等学科，以确保实验设计和结果的可靠性。认知偏见可能混淆流畅信息与真实性，认知不确定性也会影响评分（如Likert）的可靠性。因此，评估需要跨学科合作，以提升评估的严谨性。
评估框架与基准的多样性
文章介绍了多个评估框架和基准：ConSiDERS-The-Human框架包含一致性、评分标准、差异化、用户体验、负责任和可伸缩性六个支柱；SECURE基准针对网络安全，包含六个数据集，重点关注工业控制系统；SciEval基准基于Bloom认知分类学，解决数据泄露和主观问答评估问题；COGNET-MD工具包用于医学领域评估。这些工具从不同角度提升LLMs的可靠性和实用性。
推理一致性与可信度挑战
SCORE框架分析LLMs的推理能力，关注自相矛盾的推理，即推理与预测不一致。研究发现，在涉及上下文信息和常识的任务中，LLMs经常自相矛盾，可能错过证据或使用捷径。即使预测正确，推理也可能杂乱不完整，且易被引导偏离。这凸显了可信赖推理所需的鲁棒性不足，以及超越准确性度量的紧迫性。
评估工具的实际应用与扩展
COGNET-MD工具包包含评分框架和多项选择题数据库，当前涵盖精神病学、牙科、肺病学、皮肤科和内分泌学等领域，后续将扩展。TrustScore框架评估LLMs响应与内在知识的一致性，并能与事实核实方法集成，实现与人类判断强相关的结果。这些工具旨在增强LLMs在特定领域的安全性、实用性和适用性。
Q&A
什么是ConSiDERS-The-Human评估框架？
ConSiDERS-The-Human评估框架由一致性、评分标准、差异化、用户体验、负责任和可伸缩性六个支柱组成，旨在提高大型语言模型的评估可靠性。
SECURE基准测试的主要目标是什么？
SECURE基准测试旨在评估大型语言模型在现实网络安全场景中的性能，特别关注工业控制系统领域。
SciEval基准评估体系解决了哪些问题？
SciEval基准评估体系解决了数据泄露问题和缺乏主观问答能力评估的问题，基于Bloom的认知分类学进行系统评估。
COGNET-MD工具包的用途是什么？
COGNET-MD工具包用于医学领域的评估，包含评分框架和多项选择题数据库，以提高大型语言模型解读医学文本的能力。
TrustScore框架的主要功能是什么？
TrustScore框架用于评估大型语言模型的响应与其内在知识的一致性，增强与人类判断的相关性。
大型语言模型在网络安全中的应用存在哪些问题？
大型语言模型在网络安全中的应用面临幻觉和缺乏真实性等问题，导致信心下降。
