El directorio completo de software LLM local: 70+ herramientas para ejecutar IA en tu propio hardware (2026)

Un runtime es el motor que carga los pesos del modelo en memoria y convierte prompts en tokens. Es la primera decisión en un stack LLM local y la que condiciona todo lo que está por encima — cada app de escritorio, interfaz web y asistente de código llama en última instancia a un runtime. Ollama domina la cuota de mercado orientada al usuario en 2026 porque incluye una API compatible con OpenAI y una instalación de un solo comando; llama.cpp es el motor C++ que subyace a la mayoría de las otras herramientas; vLLM es la opción adecuada cuando necesitas atender usuarios concurrentes en una GPU real.

Las apps de escritorio envuelven un runtime en una interfaz de chat y un explorador de modelos. Son donde la mayoría de los usuarios no técnicos comienzan porque no hay paso de terminal — descargar, hacer clic, chatear. LM Studio, Jan y GPT4All tienen la mayor parte de la base de usuarios en 2026; AnythingLLM también funciona como app de escritorio y capa RAG; Open Interpreter es el caso especial que permite a un modelo local controlar tu computadora.

Las interfaces web son clones de ChatGPT autoalojados — la misma superficie conversacional, pero apuntando a un runtime que corre en tu propia máquina o LAN. Son la opción natural cuando quieres acceso multidispositivo (laptop, teléfono, tablet apuntando a un servidor) o uso en equipo. Open WebUI domina el segmento de self-hosting en 2026, con LibreChat como alternativa de funciones de equipo y SillyTavern como la interfaz dedicada al juego de rol.

Los asistentes de código conectan un LLM local a tu editor o terminal a través de APIs compatibles con OpenAI. La elección depende principalmente del flujo de trabajo: autocompletado en el editor (Continue.dev), ediciones de agente autónomo (Cline, OpenHands) o ediciones diff nativas de git en el terminal (Aider). Los tres patrones funcionan con cualquier runtime que soporte el protocolo OpenAI Chat Completions — Ollama es el backend más común en 2026.

**Los sistemas RAG (Retrieval-Augmented Generation) combinan un LLM local con un modelo de embeddings y un almacén vectorial para que el modelo pueda responder desde tus propios documentos.** La división es entre apps llave en mano (AnythingLLM, PrivateGPT, Quivr, Khoj) que "simplemente funcionan" y bibliotecas de framework (LlamaIndex, Haystack, txtai) sobre las que puedes construir. RAGFlow ha ganado cuota en 2026 específicamente para documentos que necesitan extracción de citas de calidad.

Los frameworks de agentes convierten las llamadas de un solo paso a un LLM en flujos de trabajo de varios pasos — planificar, actuar, observar, repetir. LangChain sigue siendo el estándar de propósito general; CrewAI y AutoGen se especializan en configuraciones multiagente basadas en roles; LangGraph es la opción correcta cuando la gestión de estado importa a lo largo de flujos de larga duración. Los ocho frameworks a continuación funcionan perfectamente con un backend local de Ollama.

Los stacks de voz y multimodal extienden un LLM local más allá del texto — habla de entrada (STT), habla de salida (TTS) y visión. Whisper.cpp y faster-whisper son los dueños de la capa STT local; Piper y Coqui comparten la capa TTS con XTTS v2 dominando la clonación de voz; LLaVA y los modelos de visión de Ollama cubren el lado visual. Un asistente de voz completamente offline es construible desde esta capa más un pequeño modelo de chat.

Los clientes móviles ejecutan un modelo cuantizado directamente en el teléfono usando Apple Neural Engine, Qualcomm NPU o inferencia pura de CPU. El proyecto MLC LLM es la capa fundamental; las apps de consumo (PocketPal AI, Private LLM, LLM Farm, Layla) lo envuelven con una interfaz de chat. Los teléfonos de gama alta en 2026 ejecutan modelos 2-4B a velocidades útiles (8-15 tokens/seg); 7B está en el límite de lo factible para el hardware de más alto nivel.

Las herramientas especializadas integran LLMs locales en apps que ya usas — plataformas de notas (Obsidian, Logseq, Joplin), agentes de tareas autónomos (AutoGPT, BabyAGI, MetaGPT) y frontends de juego de rol (Agnai, RisuAI). No son interfaces de chat genéricas; son integraciones específicas de flujo de trabajo que asumen que ya tienes una app host y un runtime.

Para los lectores que no quieren leer las nueve categorías, elige el stack más cercano y cópialo. Cada fila empareja un objetivo real con una combinación probada y el hardware mínimo en el que realmente funciona.

Este directorio se revisa cada seis meses (próxima actualización: noviembre de 2026). Criterios de inclusión: el proyecto está en mantenimiento activo (commits en los últimos 90 días), tiene una licencia open-source verificable o una declaración clara de uso comercial, y o bien tiene una cuota de usuarios significativa en 2026 o llena una capa que de otro modo estaría vacía. Los proyectos que quedan inactivos durante más de dos ciclos de versión se eliminan; los nuevos participantes que cumplan los criterios se añaden en la próxima revisión. Para sugerir un proyecto para su inclusión, abre un issue o PR contra el repositorio de PromptQuorum — incluye la URL del proyecto, la licencia y una descripción de una oración en el formato anterior.