DiT：基于transformer架构的扩散模型。

paper：[2212.09748] Scalable Diffusion Models with Transformers (arxiv.org)

code：facebookresearch/DiT: Official PyTorch Implementation of "Scalable Diffusion Models with Transformers" (github.com)

有空看

1. 介绍

2. 方法

图3。DiT架构。左:我们训练条件潜在DiT模型。输入潜信号被分解成小块，并由多个DiT块进行处理。右:DiT块的详细信息。我们尝试了各种标准的变压器模块，这些模块通过自适应层规范、交叉注意和额外的输入令牌结合了条件反射。自适应层规范效果最好。