( A, B )---3*30*2---( 1, 0 )( 0, 1 )
让网络的输入有3个节点,训练集AB各由5张二值化的图片组成,让A中有6个1,B中全是0,排列组合A ,统计迭代次数的顺序。共有5005组不同的排列组合,但只有181个不同的迭代次数。
其中有7组数据
A-B | 迭代次数 | 共有 | 平均迭代次数 | ||||
1 | 1 | 0 | 6*4*2*2*4-0*0*0*0*0 | 2760.196 | 30 | 2759 | |
1 | 0 | 0 | 6*4*2*2*4-0*0*0*0*0 | 2760.196 | |||
0 | 1 | 0 | 6*4*2*2*4-0*0*0*0*0 | 2760.196 | |||
0 | 1 | 0 | 6*4*2*2*4-0*0*0*0*0 | 2760.196 | |||
1 | 0 | 0 | 6*4*2*2*4-0*0*0*0*0 | 2760.196 | |||
| |||||||
0 | 1 | 1 | 3*1*1*2*2-0*0*0*0*0 | 2757.834 | 30 | 2762 | |
0 | 0 | 1 | 3*1*1*2*2-0*0*0*0*0 | 2757.834 | |||
0 | 0 | 1 | 3*1*1*2*2-0*0*0*0*0 | 2757.834 | |||
0 | 1 | 0 | 3*1*1*2*2-0*0*0*0*0 | 2757.834 | |||
0 | 1 | 0 | 3*1*1*2*2-0*0*0*0*0 | 2757.834 | |||
| |||||||
1 | 1 | 0 | 6*2*4*2*4-0*0*0*0*0 | 2761.101 | 30 | 2766 | |
0 | 1 | 0 | 6*2*4*2*4-0*0*0*0*0 | 2761.101 | |||
1 | 0 | 0 | 6*2*4*2*4-0*0*0*0*0 | 2761.101 | |||
0 | 1 | 0 | 6*2*4*2*4-0*0*0*0*0 | 2761.101 | |||
1 | 0 | 0 | 6*2*4*2*4-0*0*0*0*0 | 2761.101 | |||
0 | 1 | 1 | 3*1*1*2*1-0*0*0*0*0 | 2874.869 | 30 | 2881 | |
0 | 0 | 1 | 3*1*1*2*1-0*0*0*0*0 | 2874.869 | |||
0 | 0 | 1 | 3*1*1*2*1-0*0*0*0*0 | 2874.869 | |||
0 | 1 | 0 | 3*1*1*2*1-0*0*0*0*0 | 2874.869 | |||
0 | 0 | 1 | 3*1*1*2*1-0*0*0*0*0 | 2874.869 | |||
| |||||||
0 | 1 | 1 | 3*2*2*2*1-0*0*0*0*0 | 2867.482 | 30 | 2883 | |
0 | 1 | 0 | 3*2*2*2*1-0*0*0*0*0 | 2867.482 | |||
0 | 1 | 0 | 3*2*2*2*1-0*0*0*0*0 | 2867.482 | |||
0 | 1 | 0 | 3*2*2*2*1-0*0*0*0*0 | 2867.482 | |||
0 | 0 | 1 | 3*2*2*2*1-0*0*0*0*0 | 2867.482 | |||
| |||||||
0 | 1 | 1 | 3*2*1*2*2-0*0*0*0*0 | 2876.528 | 30 | 2885 | |
0 | 1 | 0 | 3*2*1*2*2-0*0*0*0*0 | 2876.528 | |||
0 | 0 | 1 | 3*2*1*2*2-0*0*0*0*0 | 2876.528 | |||
0 | 1 | 0 | 3*2*1*2*2-0*0*0*0*0 | 2876.528 | |||
0 | 1 | 0 | 3*2*1*2*2-0*0*0*0*0 | 2876.528 | |||
| |||||||
1 | 1 | 0 | 6*2*4*4*4-0*0*0*0*0 | 2896.176 | 30 | 2889 | |
0 | 1 | 0 | 6*2*4*4*4-0*0*0*0*0 | 2896.176 | |||
1 | 0 | 0 | 6*2*4*4*4-0*0*0*0*0 | 2896.176 | |||
1 | 0 | 0 | 6*2*4*4*4-0*0*0*0*0 | 2896.176 | |||
1 | 0 | 0 | 6*2*4*4*4-0*0*0*0*0 | 2896.176 |
收敛误差7e-4,每组收敛199次。统计平均值
这7个迭代次数每个按照对称性都有30种不同的排列组合,
A-B | 迭代次数 | 平均迭代次数 |
6*4*2*2*4-0*0*0*0*0 | 2760.196 | 2759 |
3*1*1*2*2-0*0*0*0*0 | 2757.834 | 2762 |
6*2*4*2*4-0*0*0*0*0 | 2761.101 | 2766 |
3*1*1*2*1-0*0*0*0*0 | 2874.869 | 2881 |
3*2*2*2*1-0*0*0*0*0 | 2867.482 | 2883 |
3*2*1*2*2-0*0*0*0*0 | 2876.528 | 2885 |
6*2*4*4*4-0*0*0*0*0 | 2896.176 | 2889 |
无论是比较单组的迭代次数还是比较30组平均的迭代次数,黄色的3组都非常接近,尽管黄色的3组的结构彼此并不相同,但如果认为他们的迭代次数是相同的带来的误差非常小。所以近似认为黄色的3组迭代次数相同,橙色的也一样。
再来分别构造黄色和橙色的平均列。
A-B | 迭代次数 | |||
1 | 1 | 0 | 6*4*2*2*4-0*0*0*0*0 | 2760.196 |
1 | 0 | 0 | 6*4*2*2*4-0*0*0*0*0 | 2760.196 |
0 | 1 | 0 | 6*4*2*2*4-0*0*0*0*0 | 2760.196 |
0 | 1 | 0 | 6*4*2*2*4-0*0*0*0*0 | 2760.196 |
1 | 0 | 0 | 6*4*2*2*4-0*0*0*0*0 | 2760.196 |
0 | 1 | 1 | 3*1*1*2*1-0*0*0*0*0 | 2874.869 |
0 | 0 | 1 | 3*1*1*2*1-0*0*0*0*0 | 2874.869 |
0 | 0 | 1 | 3*1*1*2*1-0*0*0*0*0 | 2874.869 |
0 | 1 | 0 | 3*1*1*2*1-0*0*0*0*0 | 2874.869 |
0 | 0 | 1 | 3*1*1*2*1-0*0*0*0*0 | 2874.869 |
因为黄色的两列每列有3个1,而橙色的两列1列有2个1,另一列有4个1.为充分体现这种差异,让黄色的4个1的系数为
(0.5/3+0.5/3+0.5/3+0.5/3)/4=0.1667
因此黄色的平均列是
0.1667,0.1667,0.1667,0.1667,1
计算列排斥力
0.1667 | 0.1667 | 0.1667 | 0.1667 | 1 | |
0.1667 | 0.0278 | 0.0069 | 0.0031 | 0.010419 | |
0.1667 | 0.0278 | 0.0069 | 0.018522 | ||
0.1667 | 0.0278 | 0.041675 | |||
0.1667 | 0.1667 | ||||
1 | |||||
F1=0.337665
用同样的办法计算橙色,
系数为(0.5/2+3*0.5/4)/4=0.1563
得到平均列为
0.1563,0.1563,0.1563,0.1563,1
计算得到排斥力F2=0.31073
F2<F1,橙色的迭代次数比黄色的大,力与迭代次数成反比。