探究大语言模型的思维方式

Anthropic开发了一种称为“字典学习”的技术，用于识别其语言模型Claude中的神经“节点”或“特征”，这些特征对应于特定的概念、实体和想法。可以操控这些特征来调整模型的行为，而无需重新训练或放大/抑制某些概念。然而，这项研究的计算成本很高，可能需要对每个新的语言模型重复进行。对人工智能安全性和控制的长期影响仍有待观察。