0 简介
论文:Model-ContrastiveFederatedLearning
代码:https://github.com/QinbinLi/MOON
相关链接:本文主要是将SimCLR对比学习的思想迁移到联邦学习中,关于SimCLR的介绍见https://blog.csdn.net/search_129_hr/article/details/130419626
1 核心思想
SimCLR对比学习的对象是:
- 图像 x x x先经过数据增强后得到的 x i x_i xi和 x j x_j xj,然后经过特征提取器 R w ( ⋅ ) R_w(\cdot) Rw(⋅)得到的特征 z i z_i zi和 z j z_j zj,训练的参数就是特征提取器的参数 w w w;
- 总体想法是同一张图片得到的特征要相似,不同图片得到的特征不相似;
本文提出的联邦学习MOON对比学习的对象为:
- w t w^t wt:the global model全局模型;
- w i t w_i^t wit:客户端 P i P_i Pi的局部模型;
- R w t ( x ) R_{w^t}(x) Rwt(x):图像 x x x经过全局模型提取的特征 z g l o b z_{glob} zglob;
- R w i t ( x ) R_{w_i^t}(x) Rwit(x):图像 x x x经过局部模型提取的特征 z l o c a l z_{local} zlocal;