自然语言处理从特定任务建模转向使用预训练模型，并微调为特定任务。这种模型具有广义模型特性，但也存在问题，如近似质量、发现性、稳定性和保护性。建议从其近似专家功能的能力出发看待其广义性和潜在价值。

本文从统计学角度展示了样本高效强化学习的条件比传统观点更苛刻，研究结果揭示了好的表示本身不足以实现高效强化学习，除非通过硬性门槛保证近似质量。研究还指出了不同学习方法之间的样本复杂度呈指数倍增长。

本文介绍了在降维回归任务中提高近似质量的方法，通过移除低敏感性数据点。同时提供了计算矩阵相关汇总统计量和近似敏感性的高效算法，并通过实验表明实际数据集的敏感性远小于理论预测，展示了实际数据集的低内在有效维度。