基于图的双向 Transformer 决策阈值调整算法用于类别不平衡的分子数据
内容提要
本文探讨了多种机器学习方法应对数据不平衡和分布偏移问题。提出的二元分类器和拓扑增强方法有效提升了节点分类性能。新开发的TDUE-BO方法在材料发现中表现优异，DBT模型在回归任务中超越传统方法，CBDT分类器在文本偏见检测中也取得显著提升。
延伸解读
类别不平衡与分布偏移的应对策略
文章汇集了多种处理类别不平衡和分布偏移的方法。例如，通过训练二元分类器检测分布变化，以解决模型设计中的偏移问题；针对节点分类中的类别不平衡，采用拓扑增强方法提升性能；PT-bagging 概率阈值打分组合方法也用于解决数据挖掘中的类别不平衡。这些方法从不同角度应对数据不平衡挑战，为相关任务提供了实用参考。
TDUE-BO 在材料发现中的优化表现
TDUE-BO 方法动态整合了上置信区间（UCB）和预期改进（EI）获取函数的优势，通过监测模型不确定性引导切换策略，实现在高维材料设计空间中的有效导航和快速收敛。在三个材料数据集上的实验表明，TDUE-BO 在 RMSE 得分和收敛效率上均优于 EI 和基于 UCB 的贝叶斯优化方法，显示出在材料发现中的优化潜力。
DBT 模型在回归任务中的优势
扩散增强树（DBT）融合了去噪扩散概率模型和梯度提升方法，其参数由决策树在每个扩散时间步长进行参数化，形成一种新的提升算法。实验证明，DBT 相较于基于深度神经网络的扩散模型具有优势，在真实回归任务上表现出更好的能力，并展示了在表格数据（如欺诈检测）分类学习中的应用潜力。
CBDT 分类器在文本偏见检测中的提升
CBDT 分类器联合使用 Context Transformer 和 Entity Transformer，用于检测文本中的偏见。实验结果显示，CBDT 在准确分类有偏见和无偏见的句子以及识别具体有偏见词语和短语方面具有优势，与基准模型相比获得了约 2-4% 的性能提升。未来研究可将该模型扩展到不同的语言和文化背景。
Q&A
如何解决机器学习中的类别不平衡问题？
可以通过训练二元分类器和采用拓扑增强方法来有效解决类别不平衡问题。
TDUE-BO方法在材料发现中的表现如何？
TDUE-BO方法在材料发现中表现优异，优化了高维材料设计过程，具有更好的近似和优化性能。
DBT模型与传统方法相比有什么优势？
DBT模型在真实回归任务中表现出色，相较于传统方法具有更好的能力。
CBDT分类器在文本偏见检测中的表现如何？
CBDT分类器在准确分类有偏见和无偏见的句子方面取得了约2-4%的性能提升。
如何通过拓扑增强方法改善节点分类性能？
拓扑增强方法从节点中心和拓扑结构的角度出发，有效促进不平衡节点分类，验证了其卓越性能。
文章中提到的PT-bagging方法有什么作用？
PT-bagging是一种概率阈值打分组合方法，用于解决数据挖掘中的类别不平衡问题。
