预览加载中,请您耐心等待几秒...
1/10
2/10
3/10
4/10
5/10
6/10
7/10
8/10
9/10
10/10

亲,该文档总共47页,到这已经超出免费预览范围,如果喜欢就直接下载吧~

如果您无法下载资料,请参考说明:

1、部分资料下载需要金币,请确保您的账户上有足够的金币

2、已购买过的文档,再次下载不重复扣费

3、资料包下载后请先用软件解压,在使用对应软件打开

特征选择和提取特征选择和提取特征选择和提取特征选择和提取特征选择和提取特征选择和提取特征选择和提取特征选择和提取7.1模式类别可分性的测度7.1模式类别可分性的测度类别可分离性判据:衡量不同特征及其组合对分类是否有效的定量准则 理想准则:某组特征使分类器错误概率最小 实际的类别可分离性判据应满足的条件: 度量特性: 与错误率有单调关系 当特征独立时有可加性: 单调性: 常见类别可分离性判据:基于距离、概率分布、熵函数类间可分性:=所有样本间的平均距离:基于距离的准则概念直观,计算方便,但与错误率没有直接联系7.2特征选择特征选择:=从原始特征中挑选出一些最有代表性、分类性能最好的特征进行分类。 从D个特征中选取d个,共CdD种组合。若不限定特征选择个数,则共2D种组合-典型的组合优化问题 特征选择的方法大体可分两大类: Filter方法:根据独立于分类器的指标J来评价所选择的特征子集S,然后在所有可能的特征子集中搜索出使得J最大的特征子集作为最优特征子集。不考虑所使用的学习算法。 Wrapper方法:将特征选择和分类器结合在一起,在学习过程中表现优异的的特征子集会被选中。经典特征选择算法单独最优特征组合顺序前进法顺序后退法遗传算法遗传算法6.5讨论7.2特征选择7.2特征选择7.2特征选择7.2特征选择作业7.3离散K-L变换6.3特征提取与K-L变换K-L变换离散K-L变换的均方误差求解最小均方误差正交基求解最小均方误差正交基K-L变换的表示K-L变换的性质K-L变换的性质K-L变换的数据压缩图解K-L变换的产生矩阵未知类别样本的K-L变换7.3离散K-L变换7.3离散K-L变换7.3离散K-L变换7.3离散K-L变换7.3离散K-L变换7.3离散K-L变换7.3离散K-L变换作业