[Bug]: Detected that PyTorch and torchvision were compiled with different CUDA versions. PyTorch has CUDA Version=11.7 and torchvision has CUDA Version=11.8. Please reinstall the torchvision that matches your PyTorch instal

[MarcoLeongDev]

Is there an existing issue for this?

• I have searched the existing issues and checked the recent builds/commits

What happened?

changes at line 240 results in the following error:

RuntimeError: Detected that PyTorch and torchvision were compiled with different CUDA versions. PyTorch has CUDA Version=11.7 and torchvision has CUDA Version=11.8. Please reinstall the torchvision that matches your PyTorch install.

This error causes the launching fail.

Experimented with git clone the repo and modified launch.py to revert 240 fixes the issue

See commit f5ea1e9

Kindly have a look to confirm if this issue can be replicated

Temporary workaround

1. git clone the repo
2. cd to the directory
3. git revert f5ea1e9 --no-edit to revert this particular change

Steps to reproduce the problem

following the instruction for installation:

bash <(wget -qO- https://raw.githubusercontent.com/AUTOMATIC1111/stable-diffusion-webui/master/webui.sh)

What should have happened?

the script should complete the installation

Commit where the problem happens

f5ea1e9

What platforms do you use to access the UI ?

Linux

What browsers do you use to access the UI ?

Mozilla Firefox, Google Chrome, Brave

Command Line Arguments

Not applicable

List of extensions

Not applicable

Console logs

Not applicable

Additional information

No response

[MarcoLeongDev]

Temporary workaround

1. git clone the repo
2. cd to the directory
3. git revert f5ea1e9 --no-edit to revert this particular changes for the time being

[acncagua]

I had the same problem, but deleting and recreating the venv fixed it

[MarcoLeongDev]

I had the same problem, but deleting and recreating the venv fixed it

I tried removing venv the error persisted. git revert or just checkout the commit prior worked for me

[Sakura-Luna]

The replacement installation command is, pip install torch==2.0.1+cu118 torchvision==0.15.2+cu118 --index-url https://download.pytorch.org/whl/cu118.

[Kadah]

Setting the following in webui-user.sh should work for getting the intended torch cu version.
export TORCH_COMMAND="pip install torch==2.0.1 torchvision==0.15.2 --index-url https://download.pytorch.org/whl/cu118"

It didn't for me though, installer went and used its own torch_command instead anyway, ending up in the same condition as this issue. I needed to manually run pip from the venv to resolve. Not sure why launch.py appeared to ignore the custom TORCH_COMMAND.

I suspect something funky going on with unnecessarily specifying an explicit cu version for torchvision.

Somewhat related, xformers >= 0.0.17 thru <=0.0.19dev targets torch 2.0.0 and pip will complain about unmet dependency, this seems ignoble.

Related previous issue with older pytorch version: #9341

[poisenbery]

I was having other issues with this, even after revering to previous commit.

#10110 (comment) fixed it for me.

[yaojingguo]

I have applied #10110 (comment) to 89f9faa. It works.

[calonye]

有关安装或升级报错：[Bug]: Detected that PyTorch and torchvision were compiled with different CUDA versions. PyTorch has CUDA Version=11.7 and torchvision has CUDA Version=11.8. Please reinstall the torchvision that matches your PyTorch instal

我实验了许多方式，最终在维持不删除VENV的前提下，解决了问题，虽然我不知道具体是什么引起的，但我猜测是环境；

最终得出来的最优解方式，注意，实验仅在 stable diffusion 1.2.1 版本环境下：

我的环境是 I9-13900K + 4090 24G + ubuntu_22 + cuda11.8 + cudnn8700 + conda + python3.10.10 + stable diffusion 1.0.0 ;

1. 首先git pull 获取最新版本stable diffusion 1.2.1 ；
2. 查看该版本根目录下的 launch.py文件 ：

• torch的指定版本安装代码：pip install torch==2.0.1 torchvision==0.15.2 --extra-index-url https://download.pytorch.org/whl/cu118;
• xformaers的指定版本安装代码：xformers==0.0.17;

4. torch 和xformers 降级安装：

• “torch” 修改为：pip install torch==1.13.1+cu117 torchvision==0.14.1+cu117 --extra-index-url https://download.pytorch.org/whl/cu117 ;
• xformers 修改为：xformers==0.0.16rc425;
• 在根目录下执行 : bash webui.sh --listen --reinstall-torch --xformers --reinstall-xformers
• 执行后将根据指定的版本进行重装，命令顺利跑到最后，不用关闭，这时我们访问 IP+7860端口，可以正常打开webui了；
• 此时 torch和xoformers 的版本都比较旧，如果你觉得无所谓，那么此时就可以了，往后的启动命令记得把 --reinstall-torch和--reinstall-xformers 删掉再运行就可以运行了。
• 如果你需要跟着作者一样更新到torch2以及xformers0.0.17以上，那么接着来看后续步骤。

5. torch和xformers`的顺序升级：

• 关闭当前正在运行的webui，我们编辑launch.py，将xformers版本号修改至0.0.17以上，例如我，实验了17、18、19最后停留在0.0.19；
• 修改好xformers版本号后，保存launch.py，此时执行bash webui.sh --listen - --xformers --reinstall-xformers，这时候会重新安装xformers至指定版本，顺利安装完成后将启动webui，此时访问访问IP+7860端口，可以正常打开webui，但无法正常生图, 不要紧张，只要webui能打开就行了，这时候关闭webui`。
• 编辑launch.py，将torch 指的指定版本安装代码修改为 pip install torch==2.0.1 torchvision==0.15.2 --index-url https://download.pytorch.org/whl/cu118，保存退出;
• 此时执行bash webui.sh --listen --reinstall-torch --xformers，最后你会发现顺利重新安装torch2,并成功运行，不会出现PyTorch has CUDA Version=11.7 and torchvision has CUDA Version=11.8的报错，并且可以正常绘图，我在我的硬件环境下实验一切正常。
• 注意，一定是要先reinstall xformers ，再reinstall-torch，否则一样会报错。

11. 总结，以上的成功具体原因我暂时不清楚，你看到我上面的步骤，成功的原因在于安装xformers和torch的顺序，从SD 1.2.1默认版本 > 先将torch和xformers降级 > 然后先重装xformers，正常启动后（不可绘图，因为两边版本对应不上）> 关闭webui调整执行命令重新安装torch指定到torch==2.0.1，这时候就可正常运行了。

实验了大半天～～累死了～

tips：
#10331
https://github-com.translate.goog/AUTOMATIC1111/stable-diffusion-webui/issues/10110?_x_tr_sl=auto&_x_tr_tl=zh-CN&_x_tr_hl=zh-CN#issuecomment-1538572925

https://github.com/facebookresearch/xformers/tags

[edisonchan]

有关安装或升级报错：[Bug]: Detected that PyTorch and torchvision were compiled with different CUDA versions. PyTorch has CUDA Version=11.7 and torchvision has CUDA Version=11.8. Please reinstall the torchvision that matches your PyTorch instal

我实验了许多方式，最终在维持不删除VENV的前提下，解决了问题，虽然我不知道具体是什么引起的，但我猜测是环境；

最终得出来的最优解方式，注意，实验仅在 stable diffusion 1.2.1 版本环境下：

我的环境是 I9-13900K + 4090 24G + ubuntu_22 + cuda11.8 + cudnn8700 + conda + python3.10.10 + stable diffusion 1.0.0 ;

1. 首先git pull 获取最新版本stable diffusion 1.2.1 ；
2. 查看该版本根目录下的 launch.py文件 ：

• torch的指定版本安装代码：pip install torch==2.0.1 torchvision==0.15.2 --extra-index-url https://download.pytorch.org/whl/cu118;
• xformaers的指定版本安装代码：xformers==0.0.17;

4. torch 和xformers 降级安装：

• “torch” 修改为：pip install torch==1.13.1+cu117 torchvision==0.14.1+cu117 --extra-index-url https://download.pytorch.org/whl/cu117 ;
• xformers 修改为：xformers==0.0.16rc425;
• 在根目录下执行 : bash webui.sh --listen --reinstall-torch --xformers --reinstall-xformers
• 执行后将根据指定的版本进行重装，命令顺利跑到最后，不用关闭，这时我们访问 IP+7860端口，可以正常打开webui了；
• 此时 torch和xoformers 的版本都比较旧，如果你觉得无所谓，那么此时就可以了，往后的启动命令记得把 --reinstall-torch和--reinstall-xformers 删掉再运行就可以运行了。
• 如果你需要跟着作者一样更新到torch2以及xformers0.0.17以上，那么接着来看后续步骤。

5. torch和xformers`的顺序升级：

• 关闭当前正在运行的webui，我们编辑launch.py，将xformers版本号修改至0.0.17以上，例如我，实验了17、18、19最后停留在0.0.19；
• 修改好xformers版本号后，保存launch.py，此时执行bash webui.sh --listen - --xformers --reinstall-xformers，这时候会重新安装xformers至指定版本，顺利安装完成后将启动webui，此时访问访问IP+7860端口，可以正常打开webui，但无法正常生图, 不要紧张，只要webui能打开就行了，这时候关闭webui`。
• 编辑launch.py，将torch 指的指定版本安装代码修改为 pip install torch==2.0.1 torchvision==0.15.2 --index-url https://download.pytorch.org/whl/cu118，保存退出;
• 此时执行bash webui.sh --listen --reinstall-torch --xformers，最后你会发现顺利重新安装torch2,并成功运行，不会出现PyTorch has CUDA Version=11.7 and torchvision has CUDA Version=11.8的报错，并且可以正常绘图，我在我的硬件环境下实验一切正常。
• 注意，一定是要先reinstall xformers ，再reinstall-torch，否则一样会报错。

11. 总结，以上的成功具体原因我暂时不清楚，你看到我上面的步骤，成功的原因在于安装xformers和torch的顺序，从SD 1.2.1默认版本 > 先将torch和xformers降级 > 然后先重装xformers，正常启动后（不可绘图，因为两边版本对应不上）> 关闭webui调整执行命令重新安装torch指定到torch==2.0.1，这时候就可正常运行了。

实验了大半天～～累死了～

tips： #10331 https://github-com.translate.goog/AUTOMATIC1111/stable-diffusion-webui/issues/10110?_x_tr_sl=auto&_x_tr_tl=zh-CN&_x_tr_hl=zh-CN#issuecomment-1538572925

https://github.com/facebookresearch/xformers/tags

你确定这样最后能成功启用 xformers 吗？
我这里观察到的情况是，现在 automatic 1111 最新版本 git clone 下来后，它默认会安装 torch 2.0.1 + torchvision 0.15.2，因为 torchvision 0.15.2 要求 torch 必须是 2.0.1。然后 xformers 无论是哪一个版本，包括 0.0.19、0.0.20 测试版，均不能支持 torch 2.0.1。
所以你的步骤实际情况是先安装了 xformers 0.0.19，然后再安装 torch 2.0.1 的时候，会把你的 xformers 0.0.19 卸载掉。

[calonye]

[edisonchan]

我有一个简单许多的办法:

1. 打开链接: https://anaconda.org/xformers/xformers/files
2. 下载 https://anaconda.org/xformers/xformers/0.0.20.dev539%2Bgit.1d635e1/download/linux-64/xformers-0.0.20.dev539%2Bgit.1d635e1-py310_cu11.8.0_pyt2.0.1.tar.bz2
3. 展开文件到 stable-diffusion-webui/venv/ 里面。
4. 搞定。

My workaround for this issue:

1. open the link: https://anaconda.org/xformers/xformers/files
2. download: https://anaconda.org/xformers/xformers/0.0.20.dev539%2Bgit.1d635e1/download/linux-64/xformers-0.0.20.dev539%2Bgit.1d635e1-py310_cu11.8.0_pyt2.0.1.tar.bz2
3. extrat the files to stable-diffusion-webui/venv。
4. done。

update:
you could run venv\scripts\activate.bat(or venv\scripts\activate.ps1 in Powershell of Windows or ./venv/bin/activate in Linux) and then run pip install -U xformers --pre to fix this problem now.

If you are using mirror pip server in China, you should wait about 2~7 days or use my method here.