LLMs 作为函数逼近器:术语、分类和评估问题
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
自然语言处理从特定任务建模转向使用预训练模型,并微调为特定任务。这种模型具有广义模型特性,但也存在问题,如近似质量、发现性、稳定性和保护性。建议从其近似专家功能的能力出发看待其广义性和潜在价值。
🎯
关键要点
- 自然语言处理从特定任务建模转向使用预训练模型并微调为特定任务。
- 当前模型具有广义模型特性,但失去了清晰度。
- 这种模糊性导致了与评估优缺点无关的“人工通用智能”隐喻。
- 建议从近似专家功能的能力出发看待模型的广义性和潜在价值。
- 提出了关于近似质量、发现性、稳定性和保护性的问题。
- 该框架融合了实践和理论视角的各个方面,以及被次要化的问题,如“提示注入”和“越狱”。
➡️