神经网络到底是如何实现分类的---共振参考系假设

在《拟合一个三分类网络的迭代次数和准确率的数学表达式》和《拟合三分类网络minst3,4,5的迭代次数与准确率的数学表达式》分别制作了两个三分类网络

 神经网络到底是如何实现分类的---共振参考系假设

这个网络是由3个一分类的网络组成的

S(minst0)81-(con3*3)49-30-3-(1,0,0)

S(minst1)81-(con3*3)49-30-3-(0,1,0)

S(minst2)81-(con3*3)49-30-3-(0,0,1)

w=w,w1=w1,w2=w2

简写成

d3(minst0,1,2)81-con(3*3)49-30-3-(3*k) ,k∈(0,1)

和三分类minst 3,4,5的网络

神经网络到底是如何实现分类的---共振参考系假设

这网络同样也是由三个一分类的网络组成的

S(minst3)81-(con3*3)49-30-3-(1,0,0)

S(minst4)81-(con3*3)49-30-3-(0,1,0)

S(minst5)81-(con3*3)49-30-3-(0,0,1)

w=w,w1=w1,w2=w2

简写成

d3(minst 3,4,5)81-con(3*3)49-30-3-(3*k) ,k∈(0,1)

并且这两个网络的特征迭代次数表达式都已经得到了

神经网络到底是如何实现分类的---共振参考系假设

神经网络到底是如何实现分类的---共振参考系假设

更直观的画成图片

神经网络到底是如何实现分类的---共振参考系假设

如果将这两个网络

d3(minst0,1,2)81-con(3*3)49-30-3-(3*k) ,k∈(0,1)

d3(minst 3,4,5)81-con(3*3)49-30-3-(3*k) ,k∈(0,1)

看成是两个大的共振体系,很显然这两个体系的共振频率ν是不一样的

神经网络到底是如何实现分类的---共振参考系假设

神经网络到底是如何实现分类的---共振参考系假设

 

由此可以合理的推断这两个共振体系的组成部分的特征迭代次数曲线n(δ)应该是不一样的。也就是

S(minst0)81-(con3*3)49-30-3-(1,0,0)

S(minst1)81-(con3*3)49-30-3-(0,1,0)

S(minst2)81-(con3*3)49-30-3-(0,0,1)

S(minst3)81-(con3*3)49-30-3-(1,0,0)

S(minst4)81-(con3*3)49-30-3-(0,1,0)

S(minst5)81-(con3*3)49-30-3-(0,0,1)

的n(δ)应该都是不一样的,但在《minst0-9特征频率曲线表达式》中已经用实验的方法证实

S(Minst 0-9)81-(con3*3)49-30-3-(3*k)k∈(0,1)

的n(δ)曲线几乎是完全重合的

神经网络到底是如何实现分类的---共振参考系假设

由这两个看似很矛盾的现象可以推断,

S(Minst 0-9)81-(con3*3)49-30-3-(3*k)k∈(0,1)

的特征迭代次数曲线n(δ)几乎相同的原因是因为他们缺乏共同的共振参照物,导致他们的特征频率无法相互比较,导致不能分别。

如果能有一个共同的共振参考系他们的特征频率就可以相互比较并实现分类。

把这个两个三分类网络

d3(minst0,1,2)81-con(3*3)49-30-3-(3*k) ,k∈(0,1)

d3(minst 3,4,5)81-con(3*3)49-30-3-(3*k) ,k∈(0,1)

看做是两个共振体系,这个共振体系很显然放大了组成网络的一分类网络的特征,并进而实现识别分类。

由此可以合理的推断S(Minst 0-9)81-(con3*3)49-30-3-(3*k)k∈(0,1)的特征迭代次数曲线n(δ)应该是有细微差别的。

所以把神经网络假设成一个大的共振体系,参与共振的一分类网络在整个体系中有共同的参照物,使得他们的共振频率可以相互比较并进而实现分类。

 

实验数据

本文的数据都是来自前面三篇

《拟合一个三分类网络的迭代次数和准确率的数学表达式》

《拟合三分类网络minst3,4,5的迭代次数与准确率的数学表达式》

《Minst 0-9特征迭代次数曲线表达式》