本研究探讨大型语言模型的元认知能力，提出神经反馈范式以量化其激活模式的报告与控制能力。结果表明，LLMs能够学习这些能力，但受到示例数量和语义可解释性等因素的影响，揭示了其监测能力的局限性，为人工智能安全提供了实证依据。

语言模型具备元认知监控与控制其内部激活的能力
BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 ·
👤 个人中心
在公众号发送验证码完成验证