势函数法 (一种确定性的非线性分类方法)
势函数的目的
用势函数的概念来确定判别函数和划分类别界面。
基本思想
1.假设要划分属于两种类别ω1和ω2的模式样本,这些样本可看成是分布在n维模式空间中的点。
2.把属于ω1的点比拟为某种能源点,在点上,电位达到峰值。
3. 随着与该点距离的增大,电位分布迅速减小,即把样本附近空间x点上的电位分布,看成是一个势函数。
4.对于属于ω1的样本集群,其附近空间会形成一个“高地”,这些样本点所处的位置就是“山头”。
5. 同理,用电位的几何分布来看待属于ω2的模式样本,在其附近空间就形成“凹地”。
6. 只要在两类电位分布之间选择合适的等高线,就可以认为是模式分类的判别函数。
判别函数的产生
- 模式分类的判别函数可由分布在模式空间中的许多样本向量的势函数产生。
- 任意一个样本所产生的势函数以表征,则判别函数可由势函数序列来构成,序列中的这些势函数相应于在训练过程中输入机器的训练模式样本
- 在训练状态,模式样本逐个输入分类器,分类器就连续计算相应的势函数,在第步迭代时的积累位势决定于在该步前所有的单独势函数的累加。
- 以表示积累位势函数,若加入的训练样本是错误分类,则积累函数需要修改,若是正确分类,则不变。
第二类势函数
势函数的选择
用第二类势函数,当训练样本维数和数目都较高时,需要计算和存储的指数项较多。
正因为势函数由许多新项组成,因此有很强的分类能力。
选择势函数的条件:
一般来说,若两个n维向量和的函数同时满足下列三个条件,则可作为势函数。
,并且当且仅当x=xk时达到最大值;
当向量x与xk的距离趋于无穷时,趋于零;
是光滑函数,且是之间距离的单调下降函数。