Quais são, em ordem decrescente, os melhores modelos de IA aberta, disponíveis para uso…
- User
Quais são, em ordem decrescente, os melhores modelos de IA aberta, disponíveis para uso no LM Studio?
- Assistant
Excelente pergunta! A comunidade de IA de código aberto (open-source) está evoluindo a uma velocidade impressionante, e o LM Studio é a ferramenta perfeita para experimentar esses modelos em seu próprio computador.
A "melhor" IA é um alvo móvel e depende muito do seu hardware (principalmente da VRAM da sua placa de vídeo e da quantidade de RAM) e do seu caso de uso (conversação, programação, tradução, etc.).
Apresento aqui uma lista em ordem decrescente de performance geral e popularidade, focando nos modelos mais poderosos e versáteis disponíveis no LM Studio atualmente.
Em Ordem Decrescente: Os Melhores Modelos de IA no LM Studio
Aqui está o ranking, do mais poderoso para os mais eficientes, com recomendações de uso.
Tier S+ (Desempenho Máximo - Exigem Hardware Potente)
Estes modelos competem diretamente com versões mais antigas do GPT-4 e Claude. Exigem muita VRAM (idealmente 16-24 GB) ou muita RAM (64 GB+) para rodar com boa velocidade.
1. Cohere - Command R+ (104B)
- Por que é o melhor? Atualmente, é considerado o rei dos modelos abertos em termos de capacidade geral. É um modelo massivo (104 bilhões de parâmetros) com uma janela de contexto gigantesca (128k tokens). É excepcional para tarefas complexas de RAG (Retrieval-Augmented Generation), raciocínio e possui excelentes capacidades multilíngues, incluindo um português muito forte.
- Ideal para: Tarefas profissionais, análise de documentos longos, chatbots de alta qualidade e qualquer cenário que exija o máximo de "inteligência".
- No LM Studio: Procure por
Command R+ GGUF. Por ser muito pesado, comece com uma quantização comoQ4_K_M. Você precisará de um computador muito robusto.
2. Mistral - Mixtral 8x22B (141B)
- Por que está no topo? É o modelo mais poderoso da Mistral AI. Usa uma arquitetura "Mixture of Experts" (MoE), o que o torna incrivelmente capaz, superando o Llama 3 70B em muitos benchmarks. Ele é fantástico para código, raciocínio lógico e seguir instruções complexas.
- Ideal para: Desenvolvimento de software, resolução de problemas complexos, escrita criativa de alta qualidade.
- No LM Studio: Procure por
Mixtral 8x22B Instruct GGUF. É extremamente pesado. A maioria dos usuários domésticos não conseguirá rodá-lo, mas se você tiver o hardware, a performance é fenomenal.
Tier S (Excelente Desempenho - Mais Acessíveis)
Estes modelos oferecem um equilíbrio fantástico entre performance de ponta e requisitos de hardware mais realistas para entusiastas.
3. Meta - Llama 3 70B
- Por que está aqui? É o principal concorrente do Mixtral e, em alguns casos, até o supera. O Llama 3 foi um salto gigantesco em relação ao Llama 2. É extremamente coerente, criativo, segue instruções muito bem e foi treinado com uma quantidade massiva de dados de alta qualidade. Seu português é excelente.
- Ideal para: Praticamente tudo. É um "canivete suíço" de altíssimo nível para conversação, escrita, resumo e programação.
- No LM Studio: Procure por
Llama-3-70B-Instruct-GGUF. Uma versãoQ4_K_Mexigirá cerca de 40 GB de RAM/VRAM.
4. Mistral - Mixtral 8x7B (47B)
- Por que está aqui? Antes do Command R+ e do Llama 3 70B, este era o rei indiscutível. Continua sendo uma escolha fenomenal. A arquitetura MoE faz com que ele tenha a velocidade de um modelo de ~13B, mas a inteligência de um modelo de ~47B. É rápido, inteligente e eficiente.
- Ideal para: Um excelente "all-rounder" para quem tem um bom PC (com 12-16 GB de VRAM ou 32 GB de RAM). Ótimo para codificar e conversar.
- No LM Studio: Procure por
Mixtral-8x7B-Instruct-v0.1 GGUF. A versãoQ5_K_Mé uma ótima escolha se você tiver espaço.
Tier A (Melhor Equilíbrio - Ótimo para a Maioria dos Usuários)
Estes são os modelos que a maioria das pessoas com um PC gamer ou um bom notebook conseguirá rodar com uma experiência agradável.
5. Meta - Llama 3 8B
- Por que está aqui? Possivelmente o melhor modelo em relação ao seu tamanho. O Llama 3 8B tem um desempenho que muitas vezes supera modelos mais antigos de 13B ou até 30B. É incrivelmente rápido, inteligente e coerente para seu tamanho. Para a maioria dos usuários, este é o ponto de partida perfeito.
- Ideal para: Uso diário, programação, conversas rápidas, experimentação. Roda bem em GPUs com 8 GB de VRAM.
- No LM Studio: Procure por
Llama-3-8B-Instruct-GGUF. É a recomendação nº 1 para quem está começando ou não tem um hardware de ponta.
6. Alibaba - Qwen 1.5 (versões 32B, 14B e 7B)
- Por que está aqui? A série Qwen 1.5 da Alibaba é consistentemente subestimada, mas extremamente competente. Eles têm bom desempenho em várias línguas (incluindo português) e são ótimos em tarefas de codificação. A versão de 14B, em particular, é uma excelente alternativa ao Llama 3 8B se você quiser um pouco mais de "poder".
- Ideal para: Usuários que buscam uma alternativa aos modelos da Meta/Mistral. Ótimo para codificação e conversação geral.
- No LM Studio: Procure por
Qwen1.5-14B-Chat-GGUFpara um ótimo equilíbrio.
Tier B (Leves e Eficientes - Para Hardware Modesto)
Modelos perfeitos para notebooks sem placa de vídeo dedicada ou com pouca VRAM (< 6GB).
7. Microsoft - Phi-3 Mini (3.8B)
- Por que está aqui? A Microsoft treinou o Phi-3 com dados de "qualidade de livro didático", tornando-o surpreendentemente inteligente e coerente para seu tamanho minúsculo. Ele supera muitos modelos de 7B em testes de raciocínio.
- Ideal para: Rodar em hardware muito limitado, até mesmo em alguns celulares. Perfeito para tarefas simples e rápidas.
- No LM Studio: Procure por
Phi-3-mini-4k-instruct-gguf. Roda em praticamente qualquer coisa.
8. Mistral - Mistral 7B
- Por que está aqui? Foi o modelo que iniciou a revolução da IA aberta de alta qualidade em 2023. Embora superado pelos modelos mais novos, ainda é muito competente, rápido e um padrão da indústria para modelos leves.
- Ideal para: Uma base sólida para fine-tuning ou para quem precisa de um modelo 7B confiável.
- No LM Studio: Procure por
Mistral-7B-Instruct-v0.2 GGUF.
Guia Rápido para Escolher no LM Studio
-
Verifique seu Hardware:
- +16 GB VRAM: Vá direto para o topo: Command R+ ou Llama 3 70B.
- 8-12 GB VRAM: Sua melhor aposta é o Llama 3 8B ou o Mixtral 8x7B (este último pode exigir mais offload para a CPU).
- < 8 GB VRAM ou sem GPU dedicada: Comece com o Llama 3 8B (usando mais RAM) ou, para máxima leveza, o Phi-3 Mini.
-
Entenda a Quantização (GGUF): No LM Studio, você verá nomes como
Q4_K_M,Q5_K_S,Q8_0. Isso se refere à compressão do modelo.- Recomendação Geral:
Q4_K_Mé o melhor equilíbrio entre tamanho e qualidade. - Mais Qualidade:
Q5_K_Mse você tiver VRAM/RAM de sobra. - Mais Leve:
Q3_K_MouQ2_Kse o modelo não couber na memória, mas a qualidade cairá visivelmente.
- Recomendação Geral:
-
Como Procurar:
- Vá para a aba de busca (ícone de lupa 🔎) no LM Studio.
- Digite o nome do modelo seguido de "GGUF". Ex:
Llama 3 8B Instruct GGUF. - Procure por uploads de usuários confiáveis como "TheBloke", que é uma referência na comunidade.
Resumo da Recomendação:
Para a grande maioria dos usuários em 2024, comece com o Llama 3 8B Instruct. Se o seu sistema aguentar e você quiser mais poder, suba para o Mixtral 8x7B Instruct. Se você tem uma máquina de ponta e quer o melhor do melhor, baixe o Command R+ ou o Llama 3 70B Instruct.
Other models, same or similar prompt
Responses were produced in different, uncontrolled contexts (system prompts, settings, prior turns). This is not a benchmark.