Pular para o conteúdo principal
PromptQuorumFeito para humanos. Estruturado para IA.
Início/LLMs locais avançados
Overview & Reference

Análise do llmfit: quais LLMs locais cabem no seu hardware

·7 min de leituraPor · Fundador do PromptQuorum · Mecanismo de descoberta de IA de pesos abertos e código aberto

O llmfit é uma ferramenta de terminal gratuita e de código aberto (MIT), mantida pelo usuário do GitHub AlexsJones, que detecta sua CPU, RAM, GPU e VRAM e classifica centenas de LLMs abertos conforme o quanto cabem na sua máquina. Ele pontua cada modelo por adequação, velocidade estimada, qualidade e tamanho de contexto, pode repassar downloads ao Ollama, llama.cpp, MLX, LM Studio ou Docker Model Runner e pode medir tokens por segundo reais. Ele não executa modelos por conta própria. A versão atual é a v1.1.20, publicada em 2026-11-03; o commit mais recente do repositório é de 2026-11-18.

Principais conclusões

  • Ferramenta de linha de comando com interface de terminal, saída CLI clássica, painel web e API REST; sem instalador de desktop
  • Pontua os modelos por adequação, velocidade estimada, qualidade e contexto e escolhe a melhor quantização que cabe
  • Repassa downloads e benchmarks aos runtimes que você já usa
  • As velocidades são estimativas até você fazer um benchmark; as medições salvas as substituem na tabela
  • Licença MIT, gratuito, instalável com um único comando (winget, Scoop, Homebrew, uv, Docker)

📍 Em uma frase

O llmfit é uma ferramenta de terminal gratuita e de código aberto (MIT) que lê sua CPU, RAM e GPU e classifica centenas de LLMs abertos por adequação de memória, velocidade estimada, qualidade e tamanho de contexto, sem executar nenhum modelo.

💬 Em termos simples

Antes de gastar uma hora baixando um modelo que não vai carregar, você executa o llmfit uma vez: ele verifica o que a sua máquina tem, lista os modelos de «roda muito bem» a «apertado demais» e, opcionalmente, mede a velocidade real por meio de um runtime que você já usa.

O llmfit é uma ferramenta de terminal gratuita e de código aberto (MIT), mantida pelo usuário do GitHub AlexsJones, que detecta sua CPU, RAM, GPU e VRAM e classifica centenas de LLMs abertos conforme o quanto cabem na sua máquina. Ele pontua cada modelo por adequação, velocidade estimada, qualidade e tamanho de contexto, pode repassar downloads ao Ollama, llama.cpp, MLX, LM Studio ou Docker Model Runner e pode medir tokens por segundo reais. Ele não executa modelos por conta própria. A versão atual é a v1.1.20, publicada em 2026-11-03; o commit mais recente do repositório é de 2026-11-18.

Análise do llmfit: quais LLMs locais cabem no seu hardware

O que é o llmfit?

O README do llmfit descreve uma ferramenta que «inspeciona sua CPU, a RAM do sistema, a(s) GPU(s), a VRAM e a configuração do acelerador para recomendar modelos nas quantizações mais populares» (tradução livre do inglês).

  • Mantido pelo usuário do GitHub AlexsJones; o repositório foi criado em fevereiro de 2026 e o projeto não tem empresa nem site dedicado
  • Maturidade: cerca de 39.000+ estrelas no GitHub no momento desta verificação; versão mais recente v1.1.20 (2026-11-03); commit mais recente em 2026-11-18, principalmente atualizações semanais dos dados de benchmark e benchmarks enviados pela comunidade, além de uma correção em 2026-11-17
  • O que ele não é: o llmfit não é um mecanismo de inferência. Ele nunca carrega um modelo; recomenda e depois passa a tarefa a um runtime como o Ollama
  • O modo cluster para configurações com Ray é marcado como «Preview» no README e, até agora, «testado apenas contra um painel Ray simulado»
  • A PromptQuorum não executou o llmfit; esta análise se baseia no README, na pasta docs, na API do GitHub e na página de versões

Como o llmfit funciona: detecção, pontuação e benchmarks

Segundo o README e o docs/how-it-works.md, o llmfit trabalha em algumas etapas.

  • Detecção de hardware — lê os núcleos da CPU e a RAM e depois sonda as GPUs: NVIDIA via nvidia-smi, AMD via rocm-smi, Intel Arc via sysfs/lspci, Apple Silicon via system_profiler (a memória unificada conta como VRAM) e Ascend via npu-smi
  • Banco de modelos — centenas de modelos obtidos da API do Hugging Face são incorporados ao binário na compilação, então as atualizações do catálogo chegam ao atualizar o próprio llmfit
  • Quantização dinâmica — em vez de assumir um formato fixo, percorre de Q8_0 a Q2_K e escolhe a maior qualidade que cabe na memória; se nada couber, tenta de novo com metade do contexto
  • Pontuação e velocidade — cada modelo recebe notas de 0 a 100 em qualidade, velocidade, adequação e contexto, ponderadas conforme o caso de uso; a velocidade vem de um modelo de largura de banda de memória, e cada valor traz um rótulo de confiança, de «estimated» a «measured_local»
  • Interfaces — uma interface de terminal interativa por padrão, além de comandos como fit, recommend, info, bench, doctor, storage e serve; serve inicia um painel web e uma API REST (/api/v1/system, /api/v1/models)
  • Provedores e benchmarks — detecta modelos instalados e inicia downloads via Ollama, llama.cpp, MLX, Docker Model Runner e LM Studio, mede com bench os tokens por segundo reais e o tempo até o primeiro token e pode, opcionalmente, compartilhar resultados com o projeto

Obter o llmfit

O llmfit é instalado por um terminal; não existe instalador .dmg nem .exe. Um comando basta no Windows, macOS e Linux.

Plataforma
Comando ou link
Windows (winget)winget install --exact --id AlexsJones.llmfit
Windows (Scoop)scoop install llmfit
macOS / Linux (Homebrew)brew install AlexsJones/llmfit/llmfit
macOS / Linux (script)llmfit.axjns.dev
Python (uv)uv tool install -U llmfit
Dockerdocker run -it --rm ghcr.io/alexsjones/llmfit --tui
Binários pré-compiladosReleases
Código-fonte (MIT)GitHub

Versão atual: v1.1.20, publicada em 2026-11-03 na página de versões; o último push no repositório foi em 2026-11-18, verificado em 2026-11-19. A página de versões oferece apenas arquivos .tar.gz e .zip, então é preciso um terminal. Não existe site de produto dedicado: o repositório do GitHub é a página principal, e llmfit.axjns.dev apenas hospeda o script de instalação. Os binários do Windows são assinados via SignPath a partir da v1.1.19, segundo o README. Como em qualquer comando curl para shell, leia o script antes ou use um gerenciador de pacotes.

Privacidade e tratamento de dados

Segundo o README, verificado em 2026-11-19, o llmfit «não transferirá nenhuma informação a outros sistemas em rede, a menos que isso seja solicitado especificamente pelo usuário ou por quem o instala ou opera» (tradução livre do inglês).

  • O README diz que o llmfit só contata serviços externos para os recursos que você aciona: downloads de modelos, consultas a provedores de runtime e o ranking da comunidade
  • As execuções de benchmark são salvas primeiro localmente; compartilhá-las é uma etapa separada e opcional que envia os resultados ao projeto como pull request, segundo o README
  • llmfit serve inicia uma API HTTP e um painel web; o exemplo do README o vincula a 0.0.0.0, o que o torna acessível a partir de outras máquinas da rede, então escolha o host com cuidado
  • Esta análise não encontrou empresa, página de política de privacidade, cláusula de lei aplicável nem aviso legal; o trecho do README acima é a única declaração sobre privacidade

Licença e preço do llmfit

O llmfit é gratuito e de código aberto, segundo o repositório do GitHub, verificado em 2026-11-19.

Item
Detalhe
LicençaMIT
PreçoGrátis; nenhum plano pago encontrado
Conta / chave de APINão mencionada

O README e a documentação não mencionam plano pago, conta nem chave de API. Segundo o README, os dados de benchmark da comunidade que acompanham cada versão vêm de pull requests enviados.

Para quem é o llmfit?

O llmfit funciona melhor quando a pergunta é «o que a minha máquina consegue executar?» e não «execute isto para mim».

Use o llmfit se

  • Você quer uma lista curta ordenada de LLMs abertos e quantizações para sua CPU, RAM e GPU antes de baixar qualquer coisa
  • Você já usa um runtime local e quer uma segunda opinião sobre o que cabe
  • Você quer saída JSON ou uma API HTTP para alimentar scripts ou pipelines de implantação com recomendações de modelos
  • Você planeja uma configuração com várias GPUs ou várias máquinas e quer verificar as divisões antes de iniciar (o modo cluster é uma prévia)

Espere, ou procure outra opção, se

  • Você quer uma ferramenta que execute modelos e converse com eles: o llmfit apenas recomenda e passa a tarefa a um runtime
  • Você precisa de velocidades exatas sem benchmark: os valores são estimativas até você executar bench
  • Você usa Windows com GPU AMD ou Intel: a documentação descreve a detecção de GPU ali apenas via nvidia-smi, então use o ajuste manual de memória
  • Você quer um aplicativo de desktop empacotado: o README documenta uma interface de terminal, uma CLI e um painel web, e a página de versões traz apenas arquivos

llmfit versus alternativas

O llmfit fica ao lado dos runtimes que suporta, sem substituí-los. Veja o Local AI Directory para o catálogo completo.

  • Ollama — executa e serve modelos pela linha de comando; o llmfit pode listar quais cabem e iniciar o download pelo Ollama. Veja a análise do Ollama.
  • LM Studio — um aplicativo de desktop que baixa e executa modelos com interface de chat; o llmfit o suporta como provedor, mas não oferece chat próprio. Veja a análise do LM Studio.
  • Docker Model Runner — o serviço de modelos embutido no Docker Desktop; o llmfit o lista como provedor de runtime suportado. Veja a análise do Docker Model Runner.
  • llm-checker — citado no README do llmfit como alternativa: uma CLI Node.js com integração ao Ollama que avalia modelos executando-os de fato, enquanto o llmfit estima a partir das especificações; o README acrescenta que o llm-checker trata todos os modelos como densos, e não como mistura de especialistas.

Comparar no diretório

Perguntas frequentes

O llmfit executa ou baixa modelos por conta própria?

Não. Ele recomenda modelos e, por meio de um provedor suportado, pode iniciar um download; quem executa o modelo é o provedor.

Qual a precisão das velocidades do llmfit?

São estimativas de uma fórmula de largura de banda de memória, salvo indicação em contrário. O bench mede tokens por segundo reais e, segundo a documentação, os valores medidos substituem as estimativas na tabela.

Quais GPUs o llmfit detecta?

Segundo a documentação de plataformas: NVIDIA, AMD, Intel Arc, Apple Silicon e Ascend no Linux, Apple Silicon no macOS e NVIDIA via nvidia-smi no Windows; há ajustes manuais caso a detecção falhe.

O llmfit envia os dados do meu hardware para algum lugar?

Segundo o README, ele só contata serviços externos quando você usa um recurso que precisa deles, como downloads, consultas a provedores ou o ranking da comunidade.

Existe um aplicativo gráfico do llmfit?

Não como download empacotado: o README documenta uma interface de terminal, uma CLI e um painel web. O README cita uma interface gráfica para Windows separada, feita por terceiros, chamada llmfit-gui, que esta análise não examinou.

Fontes

← Voltar para LLMs locais avançados

MCP