Skip to content
TheChatArchiveThe Chat Archive
Claudeclaude-3-5-sonnet-20241022· AnthropicHugging Face LMArena Human Preference 140K

назови ИИ который будет приемлемо работать на системе 11400f ,32 ram 3200 ,7600 xt 16…

From a Chatbot Arena battleThe same person sent this prompt to two anonymous models at once. Compare it with gpt-4.1-2025-04-14’s answer.
  1. User

    назови ИИ который будет приемлемо работать на системе 11400f ,32 ram 3200 ,7600 xt 16 VRAM (МИНИМУМ 3 ТОКЕНА В СЕКУНДУ) с максимальной эффективностью

  2. Claude Assistant

    Для вашей системы (i5-11400F, 32GB RAM, RX 7600 XT 16GB) я бы рекомендовал следующие модели, которые смогут работать с приемлемой скоростью (3+ токена/сек):

    Оптимальные варианты:

    1. Mistral 7B (все варианты квантизации)
    • GGUF 4-bit квантизация
    • Отличное соотношение производительность/качество
    • Скорость: 8-15 токенов/сек
    • Требования к VRAM: 6-8GB
    1. Phi-2 (Microsoft)
    • 2.7B параметров
    • Очень эффективная маленькая модель
    • Скорость: 15-20 токенов/сек
    • Требования к VRAM: 4-5GB
    1. Neural Chat 7B
    • Оптимизированная версия Mistral
    • Хорошо работает в диалогах
    • Скорость: 7-12 токенов/сек
    • Требования к VRAM: 7-8GB
    1. Qwen 1.5 7B
    • Современная архитектура
    • Хорошая производительность
    • Скорость: 6-10 токенов/сек
    • Требования к VRAM: 8-9GB

    Рекомендации по запуску:

    • Используйте llama.cpp или text-generation-webui
    • Применяйте 4-bit или 5-bit квантизацию
    • Включите ROCm для работы с AMD GPU
    • Используйте последние драйверы

    Из этих вариантов я бы особенно рекомендовал Mistral 7B - это оптимальный баланс между качеством ответов и производительностью для вашей системы.

Responses were produced in different, uncontrolled contexts (system prompts, settings, prior turns). This is not a benchmark.