O diretório completo de software LLM local: 70+ ferramentas para executar IA no seu próprio hardware (2026)

Um runtime é o motor que carrega os pesos do modelo na memória e converte prompts em tokens. É a primeira decisão em um stack LLM local e a que condiciona tudo que está acima — cada app de desktop, interface web e assistente de código chama em última instância um runtime. O Ollama domina a participação de mercado orientada ao usuário em 2026 porque inclui uma API compatível com OpenAI e uma instalação de um único comando; o llama.cpp é o motor C++ que sustenta a maioria das outras ferramentas; o vLLM é a opção adequada quando você precisa atender usuários concorrentes em uma GPU real.

Os apps de desktop envolvem um runtime em uma interface de chat e um explorador de modelos. São onde a maioria dos usuários não técnicos começa porque não há etapa de terminal — baixar, clicar, conversar. LM Studio, Jan e GPT4All têm a maior parte da base de usuários em 2026.

As interfaces web são clones do ChatGPT auto-hospedados — a mesma superfície conversacional, mas apontando para um runtime que roda na sua própria máquina ou LAN. O Open WebUI domina o segmento de self-hosting em 2026, com LibreChat como alternativa de recursos de equipe e SillyTavern como a interface dedicada ao roleplay.

Os assistentes de código conectam um LLM local ao seu editor ou terminal via APIs compatíveis com OpenAI. A escolha depende principalmente do fluxo de trabalho: autocompletar no editor (Continue.dev), edições de agente autônomo (Cline, OpenHands) ou edições diff nativas de git no terminal (Aider).

Os sistemas RAG (Retrieval-Augmented Generation) combinam um LLM local com um modelo de embeddings e um armazenamento vetorial para que o modelo possa responder a partir dos seus próprios documentos. A divisão é entre apps plug-and-play (AnythingLLM, PrivateGPT, Quivr, Khoj) que "simplesmente funcionam" e bibliotecas de framework (LlamaIndex, Haystack, txtai) sobre as quais você pode construir.

Os frameworks de agentes convertem as chamadas de uma única etapa a um LLM em fluxos de trabalho de múltiplas etapas — planejar, agir, observar, repetir. O LangChain continua sendo o padrão de propósito geral; CrewAI e AutoGen se especializam em configurações multiagente baseadas em funções; LangGraph é a opção correta quando o gerenciamento de estado importa ao longo de fluxos de longa duração.

Os stacks de voz e multimodal estendem um LLM local além do texto — fala de entrada (STT), fala de saída (TTS) e visão. Whisper.cpp e faster-whisper são os proprietários da camada STT local; Piper e Coqui compartilham a camada TTS com XTTS v2 dominando a clonagem de voz; LLaVA e os modelos de visão do Ollama cobrem o lado visual.

Os clientes móveis executam um modelo quantizado diretamente no telefone usando Apple Neural Engine, Qualcomm NPU ou inferência pura de CPU. O projeto MLC LLM é a camada fundamental; os apps de consumo (PocketPal AI, Private LLM, LLM Farm, Layla) o envolvem com uma interface de chat. Telefones de alta gama em 2026 executam modelos 2–4B em velocidades úteis (8–15 tokens/s); 7B está no limite do factível para o hardware de mais alto nível.

As ferramentas especializadas integram LLMs locais em apps que você já usa — plataformas de anotação (Obsidian, Logseq, Joplin), agentes de tarefas autônomos (AutoGPT, BabyAGI, MetaGPT) e frontends de roleplay (Agnai, RisuAI).

Para os leitores que não querem ler as nove categorias, escolha o stack mais próximo e copie-o. Cada linha emparelha um objetivo real com uma combinação testada e o hardware mínimo em que realmente funciona.

Este diretório é revisado a cada seis meses — última revisão em junho de 2026, próxima atualização em novembro de 2026. A revisão de junho de 2026 reverificou todos os links e corrigiu vários nomes de projetos e licenças: Faraday agora é Backyard AI, o fork mantido do Coqui TTS é hospedado pela Idiap e o Cherry Studio é AGPL 3.0. Critérios de inclusão: o projeto está em manutenção ativa (commits nos últimos 90 dias), tem uma licença open-source verificável ou uma declaração clara de uso comercial, e ou tem uma participação de usuários significativa em 2026 ou preenche uma camada que de outra forma estaria vazia. Os projetos que ficam inativos por mais de dois ciclos de versão são removidos; os novos participantes que atendem aos critérios são adicionados na próxima revisão. Para sugerir um projeto para inclusão, abra um issue ou PR contra o repositório do PromptQuorum — inclua a URL do projeto, a licença e uma descrição de uma sentença no formato acima.