Skip to content
TheChatArchiveThe Chat Archive
gpt-4o-2024-05-13· OpenAIAi2 WildChat-4.8M (AI2)

whisper --device cuda --model medium You\ Need\ to\ Learn\ This\!\ Cloudflare\ Tunnel\…

  1. User

    whisper --device cuda --model medium You\ Need\ to\ Learn\ This!\ Cloudflare\ Tunnel\ Easy\ Tutorial[ZvIdFs3M5ic].mp4 /root/data/whisper/lib/python3.11/site-packages/torch/cuda/init.py:141: UserWarning: CUDA initialization: CUDA unknown error - this may be due to an incorrectly set up environment, e.g. changing env variable CUDA_VISIBLE_DEVICES after program start. Setting the available devices to be zero. (Triggered internally at ../c10/cuda/CUDAFunctions.cpp:108.) return torch._C._cuda_getDeviceCount() > 0,如何用调用CUDA

  2. Assistant

    CUDA初始化错误通常与环境设置有关,例如在程序开始后更改了环境变量CUDA_VISIBLE_DEVICES。这会导致CUDA设备不可用。在使用Whisper调用CUDA时确保正确的CUDA环境设置通常涉及以下步骤:

    检查CUDA和驱动安装

    1. 确认NVIDIA驱动已安装且版本正确:

      nvidia-smi
      

      输出应该显示你的GPU信息和驱动版本。

    2. 安装与Pytorch兼容的CUDA版本: Pytorch的CUDA兼容关系可以在PyTorch官网查看并安装适配的CUDA版本。

    设置环境变量

    1. 设置环境变量: 确保CUDA_VISIBLE_DEVICES环境变量设置正确,设置为可见的CUDA设备。例如:
      export CUDA_VISIBLE_DEVICES=0  # 设置第一个GPU为可见
      

    安装和检查PyTorch

    1. 确保PyTorch安装支持CUDA:

      安装带CUDA支持的PyTorch版本:

      pip install torch torchvision torchaudio
      

      检查PyTorch是否可以找到CUDA设备:

      import torch
      print(torch.cuda.is_available())  # 应该输出 True
      print(torch.cuda.device_count())  # 应该输出可用的CUDA设备数量
      print(torch.cuda.current_device()) # 这应该返回当前设备索引
      

    更新Whisper库

    确认你使用的是最新的Whisper库版本,因为最新版本可能包含对CUDA的支持和bug修复:

    pip install --upgrade openai-whisper
    

    避免冲突和限制

    如果在执行中有多个进程或应用程序在使用CUDA设备,可能会导致CUDA资源冲突。确保当前使用的CUDA设备没有被其他进程占用。

    调用Whisper

    最后,按照规范使用Whisper进行文件处理:

  3. User

    如何确认pytorch已经正确安装?

  4. Assistant

    要确认PyTorch已经正确安装并且可以使用CUDA设备,您可以按照以下步骤进行验证:

    1. 确认PyTorch版本: 通过以下命令检查PyTorch安装情况和版本:

      import torch
      print(torch.__version__)  # 输出PyTorch的版本号
      
    2. 检查CUDA支持: 确认PyTorch是否可以使用CUDA设备,运行以下代码:

      import torch
      
      # 检查CUDA是否可用
      cuda_is_available = torch.cuda.is_available()
      print(f"CUDA Available: {cuda_is_available}")  # 应输出True,如果CUDA可用
      
      if cuda_is_available:
          # 打印CUDA设备数量
          num_cuda_devices = torch.cuda.device_count()
          print(f"Number of CUDA Devices: {num_cuda_devices}")
      
          # 打印当前使用的CUDA设备ID
          current_device = torch.cuda.current_device()
          print(f"Current CUDA Device ID: {current_device}")
      
          # 打印当前设备的名称
          print(f"Device Name: {torch.cuda.get_device_name(current_device)}")
      else:
          print("CUDA is not available. Please check your installation and environment settings.")
      
    3. 测试CUDA设备创建Tensor: 尝试创建一个Tensor,并将其移动到CUDA设备,确认是否可以正常操作:

      if torch.cuda.is_available():
          # 创建一个Tensor
          x = torch.tensor([1.0, 2.0, 3.0], device='cuda')
          print(f"Tensor on CUDA Device: {x}")
      else:
          print("CUDA is not available, skipping Tensor creation on CUDA.")
      
    4. 检查NVIDIA驱动和CUDA版本: 通过命令行确认NVIDIA驱动和CUDA是否正确安装:

      nvidia-smi
      

    作为一个完整的脚本,可以如下进行测试:

    # 文件名: check_pytorch_cuda.py
    
    import torch
    
    def check_pytorch_and_cuda():
        print(f"PyTorch Version: {torch.__version__}")
        
        cuda_is_available = torch.cuda.is_available()
        print(f"CUDA Available: {cuda_is_available}")
    
        if cuda_is_available:
            num_cuda_devices = torch.cuda.device_count()
            print(f"Number of CUDA Devices: {num_cuda_devices}")
    
            current_device = torch.cuda.current_device()
            print(f"Current CUDA Device ID: {current_device}")
    
            print(f"Device Name: {torch.cuda.get_device_name(current_device)}")
    
            # Test creating a tensor on CUDA device
            try:
                x = torch.tensor([1.0, 2.0, 3.0], device='cuda')
                print(f"Tensor on CUDA Device: {x}")
            except Exception as e:
                print(f"Error creating tensor on CUDA device: {e}")
        else:
            print("CUDA is not available.")
    
    if __name__ == "__main__":
        check_pytorch_and_cuda()
    

    运行此脚本:

    python check_pytorch_cuda.py
    

    如果以上检查都通过,那么可以确认PyTorch已经正确安装并且CUDA环境配置正确。

  5. User

    import torch print(torch.cuda.is_available()) /root/data/whisper/lib/python3.11/site-packages/torch/cuda/init.py:118: UserWarning: CUDA initialization: CUDA unknown error - this may be due to an incorrectly set up environment, e.g. changing env variable CUDA_VISIBLE_DEVICES after program start. Setting the available devices to be zero. (Triggered internally at ../c10/cuda/CUDAFunctions.cpp:108.) return torch._C._cuda_getDeviceCount() > 0是什么错误?

  6. Assistant

    这个错误表明CUDA初始化失败,可能是由于环境配置的问题,比如在程序启动后更改了环境变量CUDA_VISIBLE_DEVICES。解决这个问题可以尝试以下几种方法:

    检查和设置环境变量

    1. 删除或正确设置CUDA_VISIBLE_DEVICES变量: 确保环境变量CUDA_VISIBLE_DEVICES设置正确,或者在程序启动前不去更改它。在终端中可以使用以下命令:

      export CUDA_VISIBLE_DEVICES=0  # 确认只设置一个设备
      

      或者:

      unset CUDA_VISIBLE_DEVICES  # 删除变量
      

      然后重新启动Python脚本。

    重启机器

    有时候系统需要重启以确保CUDA驱动在正确的状态。这适用于解决一些环境配置导致的问题。

    更新驱动和CUDA工具包

    1. 确保NVIDIA驱动和CUDA工具包是最新版本: 前往NVIDIA的官方网站下载最新的驱动程序,并按照说明进行安装。同时确认CUDA toolkit与PyTorch版本兼容。

    2. Reinstall CUDA Development Packages: 重新安装CUDA和cuDNN:

      sudo apt-get --purge remove "*cublas*" "cuda*" "nsight*"
      sudo apt-get remove --purge nvidia-*
      sudo apt-get autoremove
      sudo apt-get autoclean
      

      然后按照NVIDIA的官方文档重新安装:

      sudo dpkg -i cuda-repo-<distro>_<version>_<architecture>.deb
      sudo apt-key adv --fetch-keys http://developer.download.nvidia.com/compute/cuda/repos/<distro>/x86_64/7fa2af80.pub
      sudo apt-get update
      sudo apt-get install cuda
      

    针对PyTorch的特定解决方案

    1. 升级或重新安装PyTorch:

      确保您使用的是适当的版本,同时确认它与CUDA兼容:

      pip install --upgrade torch torchvision torchaudio
      

      安装适合的CUDA版本的PyTorch,例如:

      pip install torch==<版本号>+cu<cuda版本> torchvision==<版本号>+cu<cuda版本> torchaudio==<版本号> -f https://download.pytorch.org/whl/torch_stable.html
      

    验证安装

    1. 运行最简单的验证代码,确保CUDA设备能够被识别:

      import torch
      print(torch.cuda.is_available())
      

    检查Python环境和依赖

    1. 重新创建虚拟环境:

      有时问题可能出在环境配置上,重新创建一个干净的虚拟环境可以帮助排除问题:

      python -m venv myenv
      source myenv/bin/activate
      pip install torch torchvision torchaudio
      

    调试和日志检查

    1. 检查系统日志:

      如果问题依旧存在,检查系统日志 /var/log/syslog, /var/log/dmesg 以及 /var/log/nvidia-installer.log 也许能提供更多的线索。通过以下命令查看日志:

      sudo dmesg | grep -i nvidia
      

    尝试上述解决方案,逐步排查问题的根源。希望能帮你解决CUDA初始化错误。