1、目的
结合SimCLR和MoCo,实现SoTA
2、方法
将SimCLR的两点设计融入MoCo中:
1)MLP projection head
2-layer, hidden layer 2048-d, with ReLU
2)more data augmentation
+ blur augmentation
3、优点
用queue存储negative keys,无需大batch size