Что за ошибка Could not load bitsandbytes native library: libcusparse.so.11: cannot open…
- User
Что за ошибка
Could not load bitsandbytes native library: libcusparse.so.11: cannot open shared object file: No such file or directory em--gpu-server | Traceback (most recent call last): em--gpu-server | File "/usr/local/lib/python3.10/site-packages/bitsandbytes/cextension.py", line 85, in em--gpu-server | lib = get_native_library() em--gpu-server | File "/usr/local/lib/python3.10/site-packages/bitsandbytes/cextension.py", line 72, in get_native_library em--gpu-server | dll = ct.cdll.LoadLibrary(str(binary_path)) em--gpu-server | File "/usr/local/lib/python3.10/ctypes/init.py", line 452, in LoadLibrary em--gpu-server | return self._dlltype(name) em--gpu-server | File "/usr/local/lib/python3.10/ctypes/init.py", line 374, in init em--gpu-server | self._handle = _dlopen(self._name, mode) em--gpu-server | OSError: libcusparse.so.11: cannot open shared object file: No such file or directory em--gpu-server | em--gpu-server | CUDA Setup failed despite CUDA being available. Please run the following command to get more information: em--gpu-server | em--gpu-server | python -m bitsandbytes em--gpu-server | em--gpu-server | Inspect the output of the command and see if you can locate CUDA libraries. You might need to add them em--gpu-server | to your LD_LIBRARY_PATH. If you suspect a bug, please take the information from python -m bitsandbytes em--gpu-server | and open an issue at: https://github.com/bitsandbytes-foundation/bitsandbytes/issues
- Assistant
Ошибка, которую вы получили, связана с библиотекой
bitsandbytes, которой не удалось загрузить одну из необходимых библиотек CUDA —libcusparse.so.11. Этот файл является частью CUDA Toolkit, которая требуется для выполнения операций на графическом процессоре.Причина ошибки:
Эта ошибка возникает из-за одной из следующих причин:
- На вашей системе не установлена библиотека
libcusparse.so.11, или она не входит в ваш CUDA Toolkit. - Переменная среды
LD_LIBRARY_PATHне включает путь к библиотекам CUDA. - Версия CUDA, установленная на вашей системе, не соответствует той, которую ожидает
bitsandbytes(например, bitsandbytes может ожидать версию CUDA 11.x, тогда как у вас установлена другая версия).
Решения:
-
Проверьте, установлена ли CUDA и правильная ли версия. Запустите команду:
nvcc --versionОна должна выдать информацию о версии CUDA. Убедитесь, что версия соответствует той, которую ожидает
bitsandbytes.Если
nvccотсутствует, скачайте и установите CUDA Toolkit с сайта NVIDIA:
-
Проверьте наличие
libcusparse.so.11. Выполните команду:find /usr/local -name "libcusparse.so*"Если файл отсутствует, необходимо переустановить или обновить CUDA Toolkit. Например, если вы ожидаете CUDA 11.x, установите соответствующую версию.
Если файл найден, убедитесь, что библиотека находится в одном из каталогов, перечисленных в
LD_LIBRARY_PATH.
- Обновите переменную
LD_LIBRARY_PATH. Если библиотека присутствует, но bitsandbytes всё ещё выдает ошибку, вероятно, папка, где находитсяlibcusparse.so.11, не добавлена в переменнуюLD_LIBRARY_PATH. Определите путь к библиотекам CUDA через следующую команду:
Если путь к библиотекам отсутствует, добавьте его. Например:echo $LD_LIBRARY_PATH
После этого попробуйте снова запустить ваше приложение.export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
- Переустановите
bitsandbytesс совместимыми библиотеками. Возможно, текущая версия библиотекиbitsandbytesожидает другую версию CUDA. Попробуйте переустановить нужную версию:
Или укажите строго определённую версию:pip install --upgrade bitsandbytespip install bitsandbytes==0.41.0
- Запустите команду
python -m bitsandbytes. Как уже указано в вашем сообщении, выполните:
Это даст дополнительную информацию о том, какие библиотеки находятся в системе и какие-зависимости отсутствуют.python -m bitsandbytes
- Проверьте зависимости библиотеки.
Убедитесь, что необходимые зависимости установлены корректно:
Эта команда покажет, какие зависимости отсутствуют, и вы сможете установить их.ldd /path/to/bitsandbytes_library.so
- Установите совместимый образ Docker.
Если вы находитесь в Docker-контейнере, убедитесь, что он поддерживает CUDA. NVIDIA предоставляет базовые образы Docker с поддержкой CUDA:
- Сообщение об ошибке:
Если ни одно из решений не помогает, соберите всю информацию с помощью команды
python -m bitsandbytesи создайте issue в репозитории: bitsandbytes GitHub Issues.
Если после выполнения шагов проблема сохраняется, напишите, я помогу разобраться дальше!
- На вашей системе не установлена библиотека