论文导读:核Fisher判别方法无须对数据进行明确的映射。基于RBF核的Fisher判别方法在CDMA通信技术中相对于匹配滤波有较好的识别效果。
关键词:核Fisher,核函数,CDMA,扩频
1.引言
基于数据的机器学习是现代智能技术中的重要方面,它是从观测数据(样本)出发寻找规律,并利用这些规律对未来数据或无法观测的数据进行预测。核Fisher判别方法[1]是基于Fisher线性判别[2][5]提出的一种非线性分类方法,在这种方法中使用了同支撑矢量机[1](SVM)、核主矢量分析(PCA)[1]以及其他基于核的算法中类似的“核技巧”。它既不像神经网络那样依赖于对模型的选择,也不存在维数灾难与局部极小点问题。论文格式。随着CDMA通信技术的发展,其抗干扰的能力也日益受到广泛的重视。本文将核Fisher判别方法应用在CDMA通信领域,并用MATLAB对其进行了仿真和分析,取得了较好的检测识别效果。
2. 核Fisher判别方法基本原理
核Fisher判别方法由Mika等人于1999年提出[2][3][6]。假设有一集合X包含n个d维样本 ,其中 个属于 类的样本记为 , 个属于 类的样本记为 。
Fisher 线性判别[5]所要解决的基本问题是找到一个最好的投影方向,使样本在这个方向上的投影能最容易分开。寻找最好投影方向的问题[2][3]在数学上就是寻找最好的变换向量 的问题,即最大化下列广义Rayleigh 熵:
(1)
式中


分别是样本的类间离散度矩阵和类内离散度矩阵,而 是各类样本的均值向量
(2)
因此最大化 的本质是要找到一个最好方向来最大化投影后的类间离散度(分子),同时最小化这个方向上的类内离散度(分母)。论文格式。
对于非线性分类,首先使用一非线性映射函数 ,把数据从原始空间 映射到一个高维特征空间H(图1),再在高维特征空间H建立优化超平面。高维特征空间H的维数可能是非常高的,核函数利用点积运算巧妙地解决了这个问题。对称函数 只要满足Mercer条件即可认为是核函数。例如常用的RBF核函数为:


图1 从样本空间到特征空间的映射
核Fisher判别方法[6]首先把数据非线性地映射到某个特征空间,然后在这个特征空间中进行Fisher线性判别,这样就隐含地实现了对原输入空间的非线性判别。设 是输入空间到某个特征空间H的非线性映射。要找到H中的线性判别需要最大化
(3)
这里 , 和 是H中的相应矩阵,即
1/2 1 2 下一页 尾页 |