文章目录
- 1. MMPreTrain算法库介绍
- 1.1 算法库与任务组成
- 1.2 框架概览
- 2. 经典主干网络
- 2.1 ResNet
- 2.2 Vision Transformer
- 3. 自监督学习
- 3.1 SimCLR
- 3.2 MAE
- 3.3 iBOT
- 4. 多模态算法
- 4.1 CLIP
- 4.2 BLIP
视频链接:b站-深度学习预训练与MMPretrain
1. MMPreTrain算法库介绍
官网:
- mmpretrain-github-README-zh
- mmpretrain-documentation
1.1 算法库与任务组成
1.2 框架概览
2. 经典主干网络
2.1 ResNet
2.2 Vision Transformer
self-attention
3. 自监督学习
3.1 SimCLR
对比学习
3.2 MAE
掩码学习
3.3 iBOT
对比学习+掩码学习
4. 多模态算法
4.1 CLIP
双流网络,zero-shot分类器
4.2 BLIP