在行列可自由变换的条件下,平面上的2点结构只有3个
(A,B)---6*n*2---(0,1)(1,0)
分类A和B,A是3个2点结构,让B全是0。当收敛误差为7e-4,收敛199次取迭代次数平均值。让隐藏层节点数n分别为10,15,20,25,30,40,50,60,70,80,90,100.
得到迭代次数
10 | 15 | 20 | 25 | 30 | 40 | 50 | 60 | 70 | 80 | 90 | 100 | |
2s1 | 2s1 | 2s1 | 2s1 | 2s1 | 2s1 | 2s1 | 2s1 | 2s1 | 2s1 | 2s1 | 2s1 | |
1 | 51718.56 | 39319.26 | 33121.96 | 29626.8 | 27286.43 | 24267.57 | 22427.29 | 21220.397 | 20272.15 | 19609.65 | 19014.16 | 18563.91 |
2 | 57829.71 | 45565.08 | 39848.87 | 36213.1 | 33892.89 | 30545.69 | 28853.98 | 27498.025 | 26521.87 | 25784.13 | 25166.93 | 24745.83 |
3 | 59680.33 | 46179.34 | 39502.32 | 35363.78 | 33133.79 | 29715.74 | 27784.23 | 26435.965 | 25518.16 | 24794.12 | 24296.51 | 23869.99 |
归一化
10 | 15 | 20 | 25 | 30 | 40 | 50 | 60 | 70 | 80 | 90 | 100 | |
1 | 1 | 1 | 1 | 1 | 1 | 1 | 1 | 1 | 1 | 1 | 1 | 1 |
2 | 1.118 | 1.159 | 1.203 | 1.222 | 1.242 | 1.259 | 1.287 | 1.296 | 1.308 | 1.315 | 1.324 | 1.333 |
3 | 1.154 | 1.174 | 1.193 | 1.194 | 1.214 | 1.225 | 1.239 | 1.246 | 1.259 | 1.264 | 1.278 | 1.286 |
由结构加法
3(1+1)=2a1+2a2+2a3
显然两点结构可化简成一条直线,斜率为(2a1+2a2+2a3)/3
10 | 15 | 20 | 25 | 30 | 40 | 50 | 60 | 70 | 80 | 90 | 100 | |
2s1-1 | 1.091 | 1.111 | 1.132 | 1.139 | 1.152 | 1.1611 | 1.175 | 1.181 | 1.189 | 1.193 | 1.2 | 1.206 |
与之对应的夹角是
10 | 15 | 20 | 25 | 30 | 40 | 50 | 60 | 70 | 80 | 90 | 100 | |
2s1-1 | 47.48 | 48.01 | 48.54 | 48.71 | 49.04 | 49.26 | 49.6 | 49.73 | 49.94 | 50.03 | 50.21 | 50.34 |
所以对于2s1,隐藏层节点数变大将导致夹角变大,从10增加到100,夹角变大2.85度。
用同样的办法计算前面得到的3s1-2,4s1-2,5s1-2的数据得到,斜率
10 | 15 | 20 | 25 | 30 | 40 | 50 | 60 | 70 | 80 | 90 | 100 | |
2s1-1 | 1.091 | 1.111 | 1.132 | 1.139 | 1.152 | 1.161 | 1.175 | 1.181 | 1.189 | 1.193 | 1.2 | 1.206 |
3s1-1 | 1.154 | 1.171 | 1.177 | 1.194 | 1.203 | 1.214 | 1.221 | 1.228 | 1.233 | 1.24 | 1.245 | 1.25 |
4s1-1 | 1.209 | 1.223 | 1.229 | 1.236 | 1.239 | 1.251 | 1.257 | 1.264 | 1.266 | 1.271 | 1.277 | 1.28 |
5s1-1 | 1.258 | 1.261 | 1.261 | 1.268 | 1.271 | 1.274 | 1.279 | 1.281 | 1.287 | 1.29 | 1.294 | 1.298 |
夹角为
10 | 15 | 20 | 25 | 30 | 40 | 50 | 60 | 70 | 80 | 90 | 100 | |
2s1-1 | 47.48 | 48.01 | 48.54 | 48.71 | 49.04 | 49.26 | 49.6 | 49.73 | 49.94 | 50.03 | 50.21 | 50.34 |
3s1-1 | 49.08 | 49.5 | 49.66 | 50.06 | 50.26 | 50.53 | 50.67 | 50.85 | 50.96 | 51.11 | 51.23 | 51.34 |
4s1-1 | 50.41 | 50.72 | 50.87 | 51.02 | 51.1 | 51.35 | 51.49 | 51.65 | 51.69 | 51.8 | 51.94 | 52 |
5s1-1 | 51.51 | 51.57 | 51.6 | 51.73 | 51.8 | 51.88 | 51.98 | 52.03 | 52.15 | 52.23 | 52.31 | 52.38 |
所以无论对于2s1,3s1,4s1,5s1隐藏层节点数增加都将导致夹角变大
差 | |
2s1-1 | 2.857271 |
3s1-1 | 2.260362 |
4s1-1 | 1.586864 |
5s1-1 | 0.872428 |
但5s1最大角仅比最小角大0.87度,结构中点数量越多,角度的变化量越小。
隐藏层节点数相同的情况下结构中的点越多角度越大,结构中点数相同的情况下隐藏层节点数越大角度越大。