Skip to content
TheChatArchiveThe Chat Archive
Amazon Novaamazon.nova-pro-v1:0· AmazonHugging Face LMArena Human Preference 140K

Почему при загрузке модели выходит предупреждение (или ошибка?) такого вида:…

From a Chatbot Arena battleThe same person sent this prompt to two anonymous models at once. Compare it with Geminigemini-2.5-pro’s answer.
  1. User

    Почему при загрузке модели выходит предупреждение (или ошибка?) такого вида: .venv/lib/python3.12/site-packages/transformers/models/whisper/generation_whisper.py:604: FutureWarning: The input name inputs is deprecated. Please make sure to use input_features instead. warnings.warn( generation_config default values have been modified to match model-specific defaults: {'suppress_tokens': [1, 2, 7, 8, 9, 10, 14, 25, 26, 27, 28, 29, 31, 58, 59, 60, 61, 62, 63, 90, 91, 92, 93, 359, 503, 522, 542, 873, 893, 902, 918, 922, 931, 1350, 1853, 1982, 2460, 2627, 3246, 3253, 3268, 3536, 3846, 3961, 4183, 4667, 6585, 6647, 7273, 9061, 9383, 10428, 10929, 11938, 12033, 12331, 12562, 13793, 14157, 14635, 15265, 15618, 16553, 16604, 18362, 18956, 20075, 21675, 22520, 26130, 26161, 26435, 28279, 29464, 31650, 32302, 32470, 36865, 42863, 47425, 49870, 50254, 50258, 50359, 50360, 50361, 50362, 50363], 'begin_suppress_tokens': [220, 50257]}. If this is not desired, please set these values explicitly. A custom logits processor of type <class 'transformers.generation.logits_process.SuppressTokensLogitsProcessor'> has been passed to .generate(), but it was also created in .generate(), given its parameterization. The custom <class 'transformers.generation.logits_process.SuppressTokensLogitsProcessor'> will take precedence. Please check the docstring of <class 'transformers.generation.logits_process.SuppressTokensLogitsProcessor'> to see related .generate() flags. A custom logits processor of type <class 'transformers.generation.logits_process.SuppressTokensAtBeginLogitsProcessor'> has been passed to .generate(), but it was also created in .generate(), given its parameterization. The custom <class 'transformers.generation.logits_process.SuppressTokensAtBeginLogitsProcessor'> will take precedence. Please check the docstring of <class 'transformers.generation.logits_process.SuppressTokensAtBeginLogitsProcessor'> to see related .generate() flags.

  2. Amazon Nova Assistant

    Это предупреждение возникает из-за изменений в API библиотеки transformers от Hugging Face. Давайте разберем его по частям:

    1. Deprecated Input Name:

      .venv/lib/python3.12/site-packages/transformers/models/whisper/generation_whisper.py:604: FutureWarning: The input name `inputs` is deprecated. Please make sure to use `input_features` instead.
      

      Это означает, что внутри кода используется аргумент inputs, который устарел. Вместо него следует использовать input_features. Это изменение, скорее всего, было внесено в последних версиях библиотеки transformers.

    2. Изменения в generation_config:

      `generation_config` default values have been modified to match model-specific defaults
      

      Здесь говорится, что значения по умолчанию для generation_config были изменены, чтобы соответствовать конкретным моделям. Важно знать, что эти значения теперь могут отличаться от предыдущих версий, и если это нежелательно, следует явно установить нужные значения.

    3. Предупреждения о логит-процессорах:

      A custom logits processor of type <class 'transformers.generation.logits_process.SuppressTokensLogitsProcessor'> has been passed to `.generate()`, but it was also created in `.generate()`, given its parameterization. The custom <class 'transformers.generation.logits_process.SuppressTokensLogitsProcessor'> will take precedence.
      

      Это предупреждение указывает на то, что вы передали кастомный логит-процессор в метод .generate(), но также был создан другой логит-процессор внутри метода .generate(). В данном случае ваш кастомный логит-процессор будет иметь приоритет. То же самое касается и SuppressTokensAtBeginLogitsProcessor.

    Что делать?

    1. Обновите ваш код: Замените inputs на input_features в вашем коде, если вы его используете.

    2. Явно установите параметры generation_config: Если вам нужны специфические параметры генерации, установите их явно, чтобы избежать неожиданных изменений по умолчанию.

    3. Проверьте кастомные логит-процессоры: Убедитесь, что вы передаете кастомные логит-процессоры правильно и что они действительно нужны. Если вы не хотите использовать кастомные логит-процессоры, убедитесь, что не передаете их случайно.

    Пример исправления:

    Если в вашем коде есть что-то вроде:

    outputs = model.generate(inputs=input_data, ...)
    

    Измените это на:

    outputs = model.generate(input_features=input_data, ...)
    

    Также, если вы используете generation_config, установите нужные параметры явно:

    generation_config = {
        'suppress_tokens': [...],  # Ваши токены
        'begin_suppress_tokens': [...]  # Ваши токены
    }
    outputs = model.generate(input_features=input_data, generation_config=generation_config)
    

    Эти изменения помогут избежать предупреждений и убедиться, что ваш код работает с учетом последних обновлений библиотеки.

  3. User

    Но в моём коде нет ничего, где явно указывался бы inputs или generation_config. Что делать? Это где-то в конфигурации модели?

  4. Amazon Nova Assistant

    Если в вашем коде нет явного указания inputs или generation_config, то предупреждения, скорее всего, генерируются из-за того, что вы используете методы или функции из библиотеки transformers, которые внутри себя вызывают эти аргументы по умолчанию.

    В таком случае, чтобы избежать предупреждений, можно попробовать несколько подходов:

    1. Обновите библиотеку transformers

    Убедитесь, что у вас установлена последняя версия библиотеки transformers. Иногда обновление библиотеки может исправить проблемы с предупреждениями.

    pip install --upgrade transformers
    

    2. Используйте параметры по умолчанию

    Если вы не указываете inputs или generation_config явно, библиотека использует значения по умолчанию. Убедитесь, что эти значения по умолчанию подходят для вашей задачи.

    3. Подавление предупреждений

    Если вы не хотите видеть эти предупреждения, но уверены, что ваш код работает правильно, вы можете временно отключить предупреждения. Однако стоит отметить, что это не решает проблему, а лишь скрывает предупреждения.

    import warnings
    
    warnings.filterwarnings("ignore", category=FutureWarning)
    

    4. Проверьте документацию и примеры

    Иногда полезно проверить официальную документацию и примеры использования модели, чтобы убедиться, что вы используете методы и параметры правильно.

    Пример использования модели Whisper

    Вот пример того, как можно загрузить и использовать модель Whisper без явного указания inputs и generation_config:

    from transformers import WhisperProcessor, WhisperForConditionalGeneration
    
    # Загрузка процессора и модели
    processor = WhisperProcessor.from_pretrained("openai/whisper-base")
    model = WhisperForConditionalGeneration.from_pretrained("openai/whisper-base")
    
    # Пример аудиофайла
    audio_path = "path_to_your_audio_file.wav"
    
    # Обработка аудиофайла
    input_features = processor(audio_path, return_tensors="pt").input_features
    
    # Генерация текста
    generated_ids = model.generate(input_features=input_features)
    transcription = processor.batch_decode(generated_ids, skip_special_tokens=True)
    
    print(transcription)
    

    В этом примере мы явно используем input_features вместо inputs, что должно помочь избежать предупреждений.

    Итог

    Если после всех этих шагов предупреждения все еще появляются, возможно, стоит обратиться к сообществу разработчиков Hugging Face или проверить, есть ли известные проблемы с используемой версией библиотеки.

Responses were produced in different, uncontrolled contexts (system prompts, settings, prior turns). This is not a benchmark.