部署大模型的时候经常因为cuda原因不能运行，所以我们最好先查验一下自己的环境。

新建Python文件，start.py  然后运行一下

import torch
print(f"CUDA 是否可用: {torch.cuda.is_available()}")
print(f"PyTorch 版本: {torch.__version__}")
print(f"检测到的 CUDA 版本: {torch.version.cuda}")

cmd 里输入：nvidia-smi 查看一下自己的显卡驱动版本和cuda支持版本