模型无法选择gpu，只有cpu选项

[wz96cj]

System Info / 系統信息

cuda:12.4
操作系统：win--wsl2

Running Xinference with Docker? / 是否使用 Docker 运行 Xinfernece？

• docker / docker
• pip install / 通过 pip install 安装
• installation from source / 从源码安装

Version info / 版本信息

xinference:0.16.3

The command used to start Xinference / 用以启动 xinference 的命令

XINFERENCE_HOME=/home/xxx/xinference/ xinference-local --host 0.0.0.0 --port 9997 --log-level debug

Reproduction / 复现过程

Expected behavior / 期待表现

可以选择gpu

[qinxuye]

python -c "import torch; print(torch.cuda.is_available())"

跑下看下。

[wz96cj]

python -c "import torch; print(torch.cuda.is_available())"

跑下看下。

输出也是true 不知道是win10--wsl的原因 在win11的wsl上跑了一套是正常的