金融情感分析的异构 LLM 智能体设计
内容提要
本文综述大语言模型在金融情感分析中的应用：预训练模型结合监督微调可在小样本下优于传统算法，检索增强框架将准确率提升15%至48%；文章还提出金融LLM选型决策框架，介绍数据中心FLLM与多LLM协商框架，并指出模型在深层理解上仍存在局限。
延伸解读
检索增强为何能提升金融情感分析
文章指出，金融新闻标题简短且缺乏上下文，传统模型难以泛化。检索增强框架通过从可靠外部来源检索附加上下文，弥补了这一缺陷，使准确率和F1得分比传统模型及ChatGPT、LLaMA等提升15%至48%。这说明在金融文本分析中，为模型补充背景信息比单纯增大模型参数更有效，尤其适合训练样本有限的场景。
小模型微调与上下文学习的取舍
文章提到，经过微调的较小LLM即使参数较少、训练数据较少，也能达到与最先进微调LLM相当的性能；零样本和一样本表现也与微调小模型相当。但增加上下文学习的样本数量并未提升金融情感分析性能。这提示从业者：在资源有限时，微调小模型是可行路径，而盲目增加上下文示例可能无效，需关注任务特性。
多LLM协商框架解决单一决策缺陷
文章介绍了一种多LLM协商框架，包含推理注入生成器和解释推导鉴别器，通过迭代使两者达成一致，从而解决情感分析中单一决策的缺陷。实验表明该方法在多种基准上表现更好。这为金融情感分析提供了新思路：利用多个模型相互校验和解释，可能比依赖单个模型更可靠，尤其适用于对准确性要求高的金融场景。
深层理解仍是金融LLM的短板
文章评估了13项情感分析任务，发现LLM在简单任务中表现良好，但在涉及更深层次理解和结构化情感信息时仍有待提高。尽管在资源有限时LLM表现出色，但这一局限意味着在复杂金融文本分析中，不能完全依赖LLM的零样本能力，可能需要结合领域知识或专门微调来提升深层理解。
Q&A
金融情感分析中，如何用少量训练样本提升模型性能？
可以利用预训练的大型语言模型并结合监督微调技术，在少量训练样本情况下显著超越之前最先进的算法。
检索增强框架在金融情感分析中能带来多少性能提升？
基于检索增强的大型语言模型框架，相比传统模型和ChatGPT、LLaMA等LLMs，在准确性和F1得分上取得了15%到48%的性能提升。
金融行业如何选择合适的LLM解决方案？
文章提出了一个决策框架，帮助金融业专业人员根据数据、计算和性能需求选择合适的LLM解决方案，提供了从轻量级实验到大规模投资自定义LLM的路径。
数据中心方法如何改进金融LLM的性能？
通过多任务提示优化对数据进行预处理和预理解，并通过推断增强推理（AAR）自动生成训练数据，数据中心FLLM模型显著优于基于原始文本的金融LLMs，在金融分析和解释任务上达到最新水平。
多LLM协商框架如何解决情感分析中的单一决策缺陷？
该框架包括一个推理注入生成器来提供决策及其理由，以及一个评估生成器可信度的解释推导鉴别器，通过迭代使生成器和鉴别器达成一致，从而解决单一决策缺陷问题，并在各种情感分析基准上表现出更好性能。
大型语言模型在情感分析任务中的局限性是什么？
大型语言模型在简单任务中表现良好，但在涉及更深层次理解和结构化情感信息方面仍有待提高；不过，在资源有限的情况下，它们表现出色，提供了潜在可能性。
