( A, B )---144*30*2---( 1, 0 )( 0, 1 )
让网络的输入有144个节点,训练集AB各由12张二值化的图片组成,让A中每行有1个1,B中全是0,排列组合A ,统计迭代次数的顺序。
前面实验已经表明对于A中每行只有1个1,B中全是0的情况,迭代次数只与A中每列1的数量有关
A-B | 迭代次数 | |||
0 | 0 | 1 | 1*1*1*1*2*1*4-0*0*0*0*0*0*0 | 21233.5 |
0 | 0 | 1 | 1*1*1*1*2*1*4-0*0*0*0*0*0*0 | 21233.5 |
0 | 0 | 1 | 1*1*1*1*2*1*4-0*0*0*0*0*0*0 | 21233.5 |
0 | 0 | 1 | 1*1*1*1*2*1*4-0*0*0*0*0*0*0 | 21233.5 |
0 | 1 | 0 | 1*1*1*1*2*1*4-0*0*0*0*0*0*0 | 21233.5 |
0 | 0 | 1 | 1*1*1*1*2*1*4-0*0*0*0*0*0*0 | 21233.5 |
1 | 0 | 0 | 1*1*1*1*2*1*4-0*0*0*0*0*0*0 | 21233.5 |
0 | 0 | 1 | 1*1*1*2*1*1*4-0*0*0*0*0*0*0 | 21077.6 |
0 | 0 | 1 | 1*1*1*2*1*1*4-0*0*0*0*0*0*0 | 21077.6 |
0 | 0 | 1 | 1*1*1*2*1*1*4-0*0*0*0*0*0*0 | 21077.6 |
0 | 1 | 0 | 1*1*1*2*1*1*4-0*0*0*0*0*0*0 | 21077.6 |
0 | 0 | 1 | 1*1*1*2*1*1*4-0*0*0*0*0*0*0 | 21077.6 |
0 | 0 | 1 | 1*1*1*2*1*1*4-0*0*0*0*0*0*0 | 21077.6 |
1 | 0 | 0 | 1*1*1*2*1*1*4-0*0*0*0*0*0*0 | 21077.6 |
0 | 0 | 1 | 1*1*1*1*1*2*4-0*0*0*0*0*0*0 | 21244.8 |
0 | 0 | 1 | 1*1*1*1*1*2*4-0*0*0*0*0*0*0 | 21244.8 |
0 | 0 | 1 | 1*1*1*1*1*2*4-0*0*0*0*0*0*0 | 21244.8 |
0 | 0 | 1 | 1*1*1*1*1*2*4-0*0*0*0*0*0*0 | 21244.8 |
0 | 0 | 1 | 1*1*1*1*1*2*4-0*0*0*0*0*0*0 | 21244.8 |
0 | 1 | 0 | 1*1*1*1*1*2*4-0*0*0*0*0*0*0 | 21244.8 |
1 | 0 | 0 | 1*1*1*1*1*2*4-0*0*0*0*0*0*0 | 21244.8 |
收敛误差7e-4,每组收敛199次。统计平均值
如上面3组,尽管对称性各不相同,但3列1的数量都是1,1,5. 而且他们的迭代次数相差很小,近似认为他们的迭代次数是相同的不会带来很大的误差。
所以对于A每行有1个1,B中全是0,12*12的情况共有77个不同的迭代次数。
其中有13组
迭代次数 | 排斥力 | |||||
17081.16 | 15 | 8 | 1 | 1 | 1 | 1 |
19214.03 | 21.938 | 7 | 2 | 1 | 1 | 1 |
21986.21 | 24.264 | 6 | 2 | 2 | 1 | 1 |
22129.48 | 26.875 | 6 | 3 | 1 | 1 | 1 |
25584.16 | 25.646 | 5 | 2 | 2 | 2 | 1 |
25779.89 | 28.951 | 5 | 3 | 2 | 1 | 1 |
25876.74 | 29.813 | 5 | 4 | 1 | 1 | 1 |
30727.37 | 25.833 | 4 | 2 | 2 | 2 | 2 |
30798.83 | 31.639 | 4 | 4 | 2 | 1 | 1 |
30826.77 | 29.472 | 4 | 3 | 2 | 2 | 1 |
30841.53 | 30.528 | 4 | 3 | 3 | 1 | 1 |
38691.88 | 31.688 | 3 | 3 | 3 | 2 | 1 |
38727.17 | 28.708 | 3 | 3 | 2 | 2 | 2 |
如8,1,1,1,1
0 | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | 11 | |
0 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
1 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
2 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
3 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
4 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
5 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
6 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
7 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
8 | 0 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
9 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
10 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
11 | 0 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
就是上图这种情况,以及这种情况的行按照0-1-2-3-4-5-6-7-8-9-10-11-0变换,列之间随机变换的各种组合。他们的迭代次数都相同为17081
再按照排斥力算法
计算各组仅仅基于数值的排斥力,如8,1,1,1,1
8 | 1 | 1 | 1 | 1 | |
8 | 8 | 2 | 0.89 | 0.5 | |
1 | 1 | 0.25 | 0.111 | ||
1 | 1 | 0.25 | |||
1 | 1 | ||||
1 |
F=15
经对比,迭代次数和行排斥力成正比,行排斥力越大,迭代次数越大。所以神经网络的差值结构似乎存在两种力,列排斥力只与行的间距有关,而行排斥力只与列的数值数量有关。