3( A, B )---3*30*2---( 1, 0 )( 0, 1 )
4( A, B )---3*30*2---( 1, 0 )( 0, 1 )
5( A, B )---3*30*2---( 1, 0 )( 0, 1 )
做3个网络,让网络的输入都只有3个节点, 一个网络的训练集有3张图片,一个网络的训练集有4张图片,一个网络的训练集有5张图片,让A中都只有5个点,B全是0。排列组合,统计迭代次数并排序。
其中有6个结构
5差值结构 | 迭代次数 | 4差值结构 | 迭代次数 | 5/4比值 | 3差值结构 | 迭代次数 | 4/3比值 | ||||||||
1 | 1 | 1 | 4759.39 | 1 | 1 | 1 | 3548.859 | 1.3411 | 1 | 1 | 1 | 2471.462 | 1.4359 | ||
0 | 1 | 0 | 4759.39 | 1 | - | - | 3548.859 | 1.3411 | 1 | - | - | 2471.462 | 1.4359 | ||
0 | 0 | 1 | 4759.39 | - | 1 | - | 3548.859 | 1.3411 | - | - | 1 | 2471.462 | 1.4359 | ||
0 | 0 | 0 | 4759.39 | - | - | - | 3548.859 | 1.3411 | 2471.462 | 1.4359 | |||||
0 | 0 | 0 | 4759.39 | 3548.859 | 1.3411 | 2471.462 | 1.4359 | ||||||||
4759.39 | 3548.859 | 1.3411 | 2471.462 | 1.4359 | |||||||||||
0 | 1 | 1 | 8249.64 | 1 | - | 1 | 6283.342 | 1.3129 | - | - | 1 | 4619.593 | 1.3602 | ||
1 | 1 | 0 | 8249.64 | - | 1 | - | 6283.342 | 1.3129 | 1 | - | 1 | 4619.593 | 1.3602 | ||
0 | 0 | 1 | 8249.64 | - | - | - | 6283.342 | 1.3129 | 1 | 1 | - | 4619.593 | 1.3602 | ||
0 | 0 | 0 | 8249.64 | 1 | 1 | - | 6283.342 | 1.3129 | 4619.593 | 1.3602 | |||||
0 | 0 | 0 | 8249.64 | 6283.342 | 1.3129 | 4619.593 | 1.3602 | ||||||||
8249.64 | 6283.342 | 1.3129 | 4619.593 | 1.3602 | |||||||||||
1 | 1 | 1 | 11506.2 | - | - | - | 8962.236 | 1.2839 | 1 | 1 | 1 | 8252.206 | 1.086 | ||
1 | 0 | 0 | 11506.2 | 1 | 1 | 1 | 8962.236 | 1.2839 | 1 | - | - | 8252.206 | 1.086 | ||
1 | 0 | 0 | 11506.2 | - | 1 | - | 8962.236 | 1.2839 | 1 | - | - | 8252.206 | 1.086 | ||
0 | 0 | 0 | 11506.2 | - | 1 | - | 8962.236 | 1.2839 | 8252.206 | 1.086 | |||||
0 | 0 | 0 | 11506.2 | 8962.236 | 1.2839 | 8252.206 | 1.086 | ||||||||
11506.2 | 8962.236 | 1.2839 | 8252.206 | 1.086 | |||||||||||
1 | 1 | 0 | 13873.3 | 1 | - | 1 | 10698.21 | 1.2968 | - | 1 | 1 | 9868.377 | 1.0841 | ||
1 | 1 | 0 | 13873.3 | 1 | - | 1 | 10698.21 | 1.2968 | - | 1 | 1 | 9868.377 | 1.0841 | ||
0 | 1 | 0 | 13873.3 | - | - | 1 | 10698.21 | 1.2968 | - | - | 1 | 9868.377 | 1.0841 | ||
0 | 0 | 0 | 13873.3 | - | - | - | 10698.21 | 1.2968 | 9868.377 | 1.0841 | |||||
0 | 0 | 0 | 13873.3 | 10698.21 | 1.2968 | 9868.377 | 1.0841 | ||||||||
13873.3 | 10698.21 | 1.2968 | 9868.377 | 1.0841 | |||||||||||
1 | 1 | 0 | 19054.2 | 1 | - | 1 | 14888.9 | 1.2798 | 1 | - | 1 | 14103.3 | 1.0557 | ||
0 | 1 | 1 | 19054.2 | - | 1 | 1 | 14888.9 | 1.2798 | - | 1 | 1 | 14103.3 | 1.0557 | ||
0 | 1 | 0 | 19054.2 | - | - | 1 | 14888.9 | 1.2798 | - | - | 1 | 14103.3 | 1.0557 | ||
0 | 0 | 0 | 19054.2 | - | - | - | 14888.9 | 1.2798 | 14103.3 | 1.0557 | |||||
0 | 0 | 0 | 19054.2 | 14888.9 | 1.2798 | 14103.3 | 1.0557 | ||||||||
19054.2 | 14888.9 | 1.2798 | 14103.3 | 1.0557 | |||||||||||
0 | 1 | 1 | 19980.3 | - | - | - | 15858.36 | 1.2599 | 1 | - | 1 | 18149.7 | 0.8738 | ||
1 | 0 | 0 | 19980.3 | - | 1 | 1 | 15858.36 | 1.2599 | 1 | - | 1 | 18149.7 | 0.8738 | ||
0 | 1 | 1 | 19980.3 | 1 | - | - | 15858.36 | 1.2599 | - | 1 | - | 18149.7 | 0.8738 | ||
0 | 0 | 0 | 19980.3 | - | 1 | 1 | 15858.36 | 1.2599 | 18149.7 | 0.8738 | |||||
0 | 0 | 0 | 19980.3 | 15858.36 | 1.2599 | 18149.7 | 0.8738 | ||||||||
19980.3 | 15858.36 | 1.2599 | 18149.7 | 0.8738 | |||||||||||
收敛误差为7e-4,收敛199次,取迭代次数平均值
首先比较5差值结构和4差值结构的迭代次数
这两组的顺序是一致的。因为这6个结构是等高的,高度都是3,因此在4差值结构中都有一个全0行,在此基础上再增加一个全0行,导致迭代次数曾加。比较两组迭代次数的比值
大致与迭代次数成反比关系,比值越小迭代次数越大。
再比较4差值结构和3差值结构的迭代次数
4和3迭代次数的顺序是一样的,但是比值并不均匀。比较二者的比值
这个比值的变化同迭代次数的变化也是成反比的,只不过有的大于1,有的小于1。所以如果结构中已经有了一个全0行,再增加一个全0行会导致迭代次数增加。如果结构中没有全0行,再增加一个全0行,迭代次数可能增加也可能减小。
但无论这个值是增加的还是减小的,如果一组等高结构的迭代次数是x,增加一个全0行后迭代次数为y,y/x的值与这组等高结构迭代次数成反比。