Scikit-LLM 中的估计器：KDnuggets 速查表
内容提要
Scikit-LLM 将大语言模型封装为 scikit-learn 估计器，提供 fit 与 predict/transform 接口，可无缝接入 Pipeline 和交叉验证。常用 ZeroShotGPTClassifier 以标签作为任务说明；DynamicFewShotGPTClassifier 按样本检索最接近的示例。GPTVectorizer 可将文本转为固定向量，GPTTranslator 支持跨语言分类。需注意 API 调用带来的 token 成本会随交叉验证和网格搜索成倍增加。
延伸解读
fit 与 predict 的分工：理解 Scikit-LLM 的工作机制
Scikit-LLM 的估计器虽然遵循 scikit-learn 的 fit/predict 接口，但 fit 通常只记录标签集合，真正的计算发生在 predict 阶段，每个样本调用一次 API。这意味着模型训练过程几乎不消耗 token，但预测成本与样本量成正比。这种设计让 LLM 能无缝接入 Pipeline 和交叉验证，但也要求开发者重新思考计算资源的分配。
标签即任务说明：ZeroShotGPTClassifier 的使用要点
ZeroShotGPTClassifier 的 fit 方法只需传入候选标签，标签本身充当任务描述。如果标签过于模糊，模型输出也会含糊不清。因此，最好将标签视为对任务的详细说明，而不是简单的类别名称。这种用法初看可能不习惯，但理解后能更有效地利用零样本分类能力。
动态少样本与向量化：提升分类效果与流程灵活性
当零样本效果不足时，DynamicFewShotGPTClassifier 能按样本检索最接近的示例，避免将整个训练集塞入提示。此外，GPTVectorizer 可将文本转为固定向量，使 LLM 成为 Pipeline 的第一步，后续可接逻辑回归等传统模型。GPTTranslator 则支持跨语言分类，无需重新训练多语言语料。
token 成本警示：交叉验证与网格搜索的代价
使用 Scikit-LLM 时，交叉验证和网格搜索会成倍增加 API 调用次数，从而显著提高 token 成本。例如，cv=3 的交叉验证意味着三倍的 API 调用，若再叠加网格搜索，成本会进一步放大。在传统 scikit-learn 中无代价的操作，在这里需要谨慎评估。
Q&A
Scikit-LLM 是什么？它如何将大语言模型集成到 scikit-learn 工作流中？
Scikit-LLM 是一个将大语言模型封装为 scikit-learn 估计器的库。每个模型都提供 fit 和 predict 或 transform 方法，因此可以无缝接入 Pipeline 和交叉验证循环。fit 通常只记录标签集，实际工作在 predict 时进行，每个样本调用一次 API。
ZeroShotGPTClassifier 怎么用？为什么 fit 时只需要传入标签？
ZeroShotGPTClassifier 是最常用的估计器。调用 fit(None, [...]) 时只传入候选标签，因为标签本身就是任务说明。标签应视为描述，模糊的标签会导致模糊的结果。
DynamicFewShotGPTClassifier 和普通 few-shot 分类器有什么区别？
DynamicFewShotGPTClassifier 会针对每个样本，从每个类别中检索最接近的示例，而不是将整个训练集放入每个提示中。因此它比普通 few-shot 更高效，是 few-shot 场景下的默认选择。
GPTVectorizer 和 GPTTranslator 在管道中有什么作用？
GPTVectorizer 将任意长度的文本转换为固定宽度的向量，使 LLM 成为管道的第一步，后续可以使用标准 scikit-learn 模型（如逻辑回归）。GPTTranslator 是一个转换器，可以放在仅用英语训练的分类器之前，实现跨语言分类而无需重新训练。
使用 Scikit-LLM 时需要注意哪些成本问题？
主要成本是 API 调用产生的 token 费用。交叉验证（如 cv=3）会使 API 调用次数成倍增加，网格搜索会进一步放大。在传统 scikit-learn 中无成本的习惯（如交叉验证和网格搜索）在这里会产生实际费用。
Scikit-LLM 适合哪些人使用？
Scikit-LLM 适合经常使用 scikit-learn 的 AI 工程师，可以将其加入工具箱。它也让不熟悉 LLM 的人能在舒适区内尝试，无需偏离现有的 scikit-learn 工作流。
