机器学习面试题 12:数据挖掘中如何判断关联规则有效性
内容提要
数据挖掘中判断关联规则有效性需用三个度:支持度、置信度和提升度。支持度是项集出现概率,置信度是条件概率,提升度是置信度与Y总体概率之比。提升度大于1为有效强规则,等于1则X与Y独立。示例中茶叶与咖啡支持度和置信度均90%,但提升度为1,故规则无效。
延伸解读
高支持度与高置信度不等于有效规则
本例中,茶叶→咖啡的支持度和置信度都高达90%,但提升度等于1,说明购买茶叶与购买咖啡相互独立,规则无效。这提醒我们,在评估关联规则时,不能只看支持度和置信度,必须结合提升度判断规则是否真正有意义。
提升度是判断规则有效性的关键指标
提升度衡量的是在已知X的条件下Y出现的概率与Y总体出现概率之比。当提升度大于1时,规则才有效;等于1则X与Y独立;小于1则负相关。因此,提升度能有效过滤掉那些看似强关联实则无用的规则。
警惕数据中的虚假关联
本例中,茶叶和咖啡的购买看似高度相关,但通过提升度计算发现它们其实独立。这警示我们在实际数据挖掘中,要警惕因数据分布或样本选择导致的虚假关联,务必使用提升度等指标进行验证,避免得出错误结论。
Q&A
数据挖掘中如何判断关联规则是否有效?
判断关联规则是否有效需要看三个度:支持度、置信度和提升度。其中提升度是关键,若提升度大于1,则为有效强关联规则;若等于1,则X与Y相互独立,规则无效;若小于1,则规则无效。
支持度、置信度和提升度分别表示什么?
支持度表示项集{X,Y}在总项集中出现的概率;置信度表示在先决条件X发生的情况下,由关联规则X→Y推出Y的概率;提升度表示含有X的条件下同时含有Y的概率与Y总体发生概率之比。
提升度等于1说明什么?
提升度等于1表示X与Y相互独立,即X的发生对Y的发生没有影响,因此该关联规则无效。
为什么支持度和置信度都很高,关联规则却可能无效?
因为支持度和置信度高只说明X和Y同时出现的频率高,但可能Y本身出现的概率就很高,提升度会考虑这一点。如果提升度等于1,说明X和Y独立,规则无效。例如茶叶和咖啡的例子,支持度和置信度都是90%,但提升度为1,所以规则无效。
在茶叶和咖啡的例子中,为什么茶叶→咖啡不是有效关联规则?
因为提升度等于1,说明购买茶叶和购买咖啡相互独立,即是否购买咖啡与是否购买茶叶无关,所以规则无效。
什么是强关联规则?
满足最小支持度和最小置信度的规则叫做强关联规则。但强关联规则不一定有效,还需要看提升度,只有提升度大于1的强关联规则才是有效的。