xFormers是一个模块化和可编程的Transformer建模库,可以加速图像的生成。
这种优化仅适用于nvidia gpus,它加快了图像生成,并降低了vram的使用量,而成本产生了非确定性的结果。
下载地址:
https://github.com/facebookresearch/xformershttps://github.com/facebookresearch/xformers
启用xformers对大图及以上有极为巨大的性能提升,极大幅度降低显存占用,并且有很大可能修复黑图。代价是部分细节可能有些许改变(有可能有巨大改变)。如果不是非常吹毛求疵,强烈推荐使用xformers生成高分辨率的图片。
即使同一种子、同一参数,使用xFormers后每次出的图都有点变化,主要是物件的边缘。但是和显卡型号的改变一样,只是细节上一些变化,不对比看不出来。请自行衡量能不能接受这些改变。
linux上构建xFormers:
切换到webui根目录
source ./venv/bin/activate
cd repositories
git clone https://github.com/facebookresearch/xformers.git
cd xformers
git submodule update --init --recursive
pip install -r requirements.txt
pip install -e
Windows上构建xFormers:
git clone https://github.com/facebookresearch/xformers.git
cd xformers
git submodule update --init --recursive
python -m venv venv
./venv/scripts/activate
然后安装其余的依赖项
pip install -r requirements.txt
pip install wheel
运行以下内容:
python setup.py build
python setup.py bdist_wheel
在xformers目录下,进入dist文件夹,将.whl文件复制到目录stable-diffusion-webui
在stable-diffusion-webui目录下,安装.whl,如果名称不同,请在以下命令中更改文件名称:
./venv/scripts/activate
pip install xformers-0.0.14.dev0-cp310-cp310-win_amd64.whl
启动stable-diffusion-webui时,使用--force-enable-xformers确保xformers被激活