Skip to content
TheChatArchiveThe Chat Archive
gpt-4o-2024-11-20· OpenAIAi2 WildChat-4.8M (AI2)

Что за ошибка Could not load bitsandbytes native library: libcusparse.so.11: cannot open…

  1. User

    Что за ошибка

    Could not load bitsandbytes native library: libcusparse.so.11: cannot open shared object file: No such file or directory em--gpu-server | Traceback (most recent call last): em--gpu-server | File "/usr/local/lib/python3.10/site-packages/bitsandbytes/cextension.py", line 85, in em--gpu-server | lib = get_native_library() em--gpu-server | File "/usr/local/lib/python3.10/site-packages/bitsandbytes/cextension.py", line 72, in get_native_library em--gpu-server | dll = ct.cdll.LoadLibrary(str(binary_path)) em--gpu-server | File "/usr/local/lib/python3.10/ctypes/init.py", line 452, in LoadLibrary em--gpu-server | return self._dlltype(name) em--gpu-server | File "/usr/local/lib/python3.10/ctypes/init.py", line 374, in init em--gpu-server | self._handle = _dlopen(self._name, mode) em--gpu-server | OSError: libcusparse.so.11: cannot open shared object file: No such file or directory em--gpu-server | em--gpu-server | CUDA Setup failed despite CUDA being available. Please run the following command to get more information: em--gpu-server | em--gpu-server | python -m bitsandbytes em--gpu-server | em--gpu-server | Inspect the output of the command and see if you can locate CUDA libraries. You might need to add them em--gpu-server | to your LD_LIBRARY_PATH. If you suspect a bug, please take the information from python -m bitsandbytes em--gpu-server | and open an issue at: https://github.com/bitsandbytes-foundation/bitsandbytes/issues

  2. Assistant

    Ошибка, которую вы получили, связана с библиотекой bitsandbytes, которой не удалось загрузить одну из необходимых библиотек CUDA — libcusparse.so.11. Этот файл является частью CUDA Toolkit, которая требуется для выполнения операций на графическом процессоре.

    Причина ошибки:

    Эта ошибка возникает из-за одной из следующих причин:

    1. На вашей системе не установлена библиотека libcusparse.so.11, или она не входит в ваш CUDA Toolkit.
    2. Переменная среды LD_LIBRARY_PATH не включает путь к библиотекам CUDA.
    3. Версия CUDA, установленная на вашей системе, не соответствует той, которую ожидает bitsandbytes (например, bitsandbytes может ожидать версию CUDA 11.x, тогда как у вас установлена другая версия).

    Решения:

    1. Проверьте, установлена ли CUDA и правильная ли версия. Запустите команду:

      nvcc --version
      

      Она должна выдать информацию о версии CUDA. Убедитесь, что версия соответствует той, которую ожидает bitsandbytes.

      Если nvcc отсутствует, скачайте и установите CUDA Toolkit с сайта NVIDIA:


    1. Проверьте наличие libcusparse.so.11. Выполните команду:

      find /usr/local -name "libcusparse.so*"
      

      Если файл отсутствует, необходимо переустановить или обновить CUDA Toolkit. Например, если вы ожидаете CUDA 11.x, установите соответствующую версию.

      Если файл найден, убедитесь, что библиотека находится в одном из каталогов, перечисленных в LD_LIBRARY_PATH.


    1. Обновите переменную LD_LIBRARY_PATH. Если библиотека присутствует, но bitsandbytes всё ещё выдает ошибку, вероятно, папка, где находится libcusparse.so.11, не добавлена в переменную LD_LIBRARY_PATH. Определите путь к библиотекам CUDA через следующую команду:
      echo $LD_LIBRARY_PATH
      
      Если путь к библиотекам отсутствует, добавьте его. Например:
      export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
      
      После этого попробуйте снова запустить ваше приложение.

    1. Переустановите bitsandbytes с совместимыми библиотеками. Возможно, текущая версия библиотеки bitsandbytes ожидает другую версию CUDA. Попробуйте переустановить нужную версию:
      pip install --upgrade bitsandbytes
      
      Или укажите строго определённую версию:
      pip install bitsandbytes==0.41.0
      

    1. Запустите команду python -m bitsandbytes. Как уже указано в вашем сообщении, выполните:
      python -m bitsandbytes
      
      Это даст дополнительную информацию о том, какие библиотеки находятся в системе и какие-зависимости отсутствуют.

    1. Проверьте зависимости библиотеки. Убедитесь, что необходимые зависимости установлены корректно:
      ldd /path/to/bitsandbytes_library.so
      
      Эта команда покажет, какие зависимости отсутствуют, и вы сможете установить их.

    1. Установите совместимый образ Docker.
      Если вы находитесь в Docker-контейнере, убедитесь, что он поддерживает CUDA. NVIDIA предоставляет базовые образы Docker с поддержкой CUDA:

    1. Сообщение об ошибке: Если ни одно из решений не помогает, соберите всю информацию с помощью команды python -m bitsandbytes и создайте issue в репозитории: bitsandbytes GitHub Issues.

    Если после выполнения шагов проблема сохраняется, напишите, я помогу разобраться дальше!