贝叶斯分类-ppt课件.ppt

数据挖掘：朴素贝叶斯分类1.概率论基本知识随机变量频率和概率(概率的频率学派解释)联合概率和条件概率贝叶斯公式先验概率P(cj)后验概率P(cj|x)贝叶斯条件概率条件概率条件概率条件概率贝叶斯分类贝叶斯分类朴素贝叶斯分类(NaiveBayes)朴素贝叶斯分类(NaiveBayes)朴素贝叶斯分类(NaiveBayes)朴素贝叶斯(NaiveBayes)朴素贝叶斯分类举例朴素贝叶斯分类举例朴素贝叶斯分类举例朴素贝叶斯分类举例朴素贝叶斯分类举例问题1：零概率问题问题1：零概率问题的解决方案：拉普拉斯校准问题1：零概率问题的解决方案：拉普拉斯校准问题2：溢出问题问题2：溢出问题问题3：决策风险问题问题3：决策风险问题：基于最小错误率的贝叶斯决策基于最小错误概率的贝叶斯决策理论就是按后验概率的大小作判决的（1）后验概率:如果则(2)如果则(3)似然比：如果则否则如果则否则例题1例题1解答问题3：决策风险问题：基于最小错误率的贝叶斯决策的证明两类判别情况在R1内任一个x值都有p(w2|x)<p(w1|x)，在R2区内任一个x值都有p(w1|x)<p(w2|x)错误率在每个x值处都取小者，因而平均错误率p(e)也必然达到最小，这就证明了按(2-2)式作出的决策，其平均错误率为最小。p(e)也可以(2-8)式写成错误率为图中两个划线部分之和，对应的错误率区域面积为最小。2.2基于最小风险的贝叶斯决策例：病理切片定义：最小风险贝叶斯决策步骤例2条件风险两类决策方法之间的关系两类决策方法之间的关系图2.4图2.3与图2.4总结