AI工作流中应避免的7个常见Python错误
内容提要
该文章总结了AI工作流中七种常见的静默错误，包括预处理拟合在数据分割前导致数据泄漏、随机分割破坏数据独立性、训练与推理预处理不一致、种子设置不完整、评估状态与梯度禁用混淆、广播掩盖张量形状错误，以及将保存模型视为惰性文件。每种错误都伴随误导性症状和检查方法，强调通过代码审查和元数据记录确保工作流可靠性。
延伸解读
静默错误的本质：无异常却结果失真
文章强调，AI工作流中的这些错误不会引发异常，而是产生看似合理的错误结果。例如，在纯噪声数据上，由于数据泄漏，模型仍能报告0.83的准确率。这种“静默”特性使得问题难以察觉，因此需要主动检查代码逻辑，而非依赖报错。
数据分割策略需匹配业务边界
随机分割适用于独立样本，但若数据存在用户、设备或时间等分组结构，随机分割会导致信息泄漏，使验证分数虚高。文章建议根据业务需求选择分组或时间序列分割器，如GroupKFold或TimeSeriesSplit，以评估模型对新实体或未来数据的泛化能力。
训练与推理一致性：复用而非重写
训练和推理使用不同的预处理代码会导致结果偏移，即使代码看似相同。文章指出，重新拟合缩放器可能使预测结果产生巨大偏差。最可靠的做法是直接复用训练时拟合的pipeline对象，并通过同一测试样本验证两条路径输出一致。
可复现性依赖记录而非单一种子
仅设置一个随机种子并不能保证实验可复现，因为不同库使用独立生成器。文章强调，真正的可复现性需要记录种子、数据快照、代码版本、配置和依赖版本，以便重建实验环境。
Q&A
在AI工作流中，为什么预处理拟合必须在数据分割之后进行？
如果在分割前对整个数据集拟合预处理（如特征选择、缩放），会导致数据泄漏，因为验证集的信息在训练时已被模型看到，从而产生虚高的验证分数。例如，在纯噪声数据上，先拟合SelectKBest再交叉验证会得到0.83的准确率，而将选择器放入管道中则降至0.49。
随机分割数据在什么情况下会导致模型泛化能力差？
当数据行不独立时（如同一用户或患者有多行记录），随机分割会将相关行分散到训练集和验证集，模型可能记住用户而非学习泛化规律，导致验证分数虚高。例如，60个用户的数据用随机分割得到0.97的分数，而用GroupShuffleSplit则降至0.89。应使用分组或时间感知的分割方法。
训练和推理时预处理不一致会带来什么风险？如何避免？
训练和推理使用不同的预处理代码会导致特征分布偏移，使模型预测失效。例如，在推理时重新学习缩放器而不是使用训练时的参数，可能使同一输入的特征值偏移近四个标准差。避免方法是直接使用训练好的管道对象进行推理，并确保特征顺序、数据类型和缺失值处理完全一致。
为什么只设置一个随机种子不能保证实验可复现？
因为Python的random、NumPy和PyTorch各自使用独立的随机数生成器，只设置其中一个并不能控制其他库的随机性。此外，DataLoader的多进程也有自己的种子规则。完全可复现需要设置所有相关库的种子，并记录数据、代码版本、配置和依赖版本，因为跨版本或平台的结果可能不同。
在PyTorch中，model.eval()和torch.no_grad()有什么区别？为什么验证时两者都需要？
model.eval()切换模型到评估模式，使dropout和batch norm等模块使用推理行为；torch.no_grad()则禁用梯度计算。两者控制不同机制，不能互换。验证时若只用no_grad而不用eval，dropout仍会随机丢弃，导致输出不稳定；若只用eval而不用no_grad，仍会记录梯度，浪费内存。因此验证循环中应同时使用两者，并在之后调用model.train()恢复训练模式。
广播机制如何掩盖张量形状错误？如何避免？
当预测张量形状为[batch, 1]而目标为[batch]时，广播会将它们扩展为[batch, batch]矩阵，导致每个预测与所有标签比较，产生看似合理的错误损失。例如，错误形状的损失为1.63，正确形状为1.85。避免方法是在损失函数前显式检查形状，如使用squeeze(1)调整预测形状，并断言pred.shape == target.shape。
为什么保存的模型文件不能视为惰性文件？加载时需要注意什么？
保存的模型文件（如pickle、joblib）可能包含可执行代码，加载时可能执行恶意代码，因此不能从不信任的来源加载。此外，模型文件与库版本相关，跨版本加载可能失败。应记录训练配方、数据引用、依赖版本和验证分数，并在真实服务环境中进行冒烟测试。
