Ir al contenido principal
PromptQuorumDiseñado para humanos. Estructurado para la IA.
Inicio/LLM locales avanzados
Overview & Reference

Reseña de llmfit: qué LLM locales encajan con tu hardware

·7 min de lecturaPor · Fundador de PromptQuorum · Motor de descubrimiento de IA de pesos abiertos y código abierto

llmfit es una herramienta de terminal gratuita y de código abierto (MIT), mantenida por el usuario de GitHub AlexsJones, que detecta tu CPU, RAM, GPU y VRAM y ordena cientos de LLM abiertos según lo bien que encajan en tu equipo. Puntúa cada modelo por ajuste, velocidad estimada, calidad y longitud de contexto, puede pasar las descargas a Ollama, llama.cpp, MLX, LM Studio o Docker Model Runner, y puede medir tokens por segundo reales. No ejecuta modelos por sí misma. La versión actual es la v1.1.20, publicada el 2026-11-03; el último commit del repositorio es del 2026-11-18.

Conclusiones clave

  • Herramienta de línea de comandos con interfaz de terminal, salida CLI clásica, panel web y API REST; sin instalador de escritorio
  • Puntúa los modelos por ajuste, velocidad estimada, calidad y contexto, y elige la mejor cuantización que cabe
  • Cede descargas y benchmarks a los runtimes que ya usas
  • Las velocidades son estimaciones hasta que hagas un benchmark; las mediciones guardadas las sustituyen en la tabla
  • Licencia MIT, gratuita, se instala con un solo comando (winget, Scoop, Homebrew, uv, Docker)

📍 En una frase

llmfit es una herramienta de terminal gratuita y de código abierto (MIT) que lee tu CPU, RAM y GPU y ordena cientos de LLM abiertos por ajuste de memoria, velocidad estimada, calidad y longitud de contexto, sin ejecutar ningún modelo.

💬 En términos simples

Antes de pasar una hora descargando un modelo que no va a cargar, ejecutas llmfit una vez: revisa qué tiene tu equipo, lista los modelos desde «funciona muy bien» hasta «demasiado justo» y, de forma opcional, mide la velocidad real a través de un runtime que ya usas.

llmfit es una herramienta de terminal gratuita y de código abierto (MIT), mantenida por el usuario de GitHub AlexsJones, que detecta tu CPU, RAM, GPU y VRAM y ordena cientos de LLM abiertos según lo bien que encajan en tu equipo. Puntúa cada modelo por ajuste, velocidad estimada, calidad y longitud de contexto, puede pasar las descargas a Ollama, llama.cpp, MLX, LM Studio o Docker Model Runner, y puede medir tokens por segundo reales. No ejecuta modelos por sí misma. La versión actual es la v1.1.20, publicada el 2026-11-03; el último commit del repositorio es del 2026-11-18.

Reseña de llmfit: qué LLM locales encajan con tu hardware

¿Qué es llmfit?

El README de llmfit describe una herramienta que «inspecciona tu CPU, la RAM del sistema, la(s) GPU, la VRAM y la configuración del acelerador para recomendar modelos en las cuantizaciones más habituales» (traducción libre del inglés).

  • Mantenida por el usuario de GitHub AlexsJones; el repositorio se creó en febrero de 2026 y el proyecto no tiene empresa ni sitio web dedicado
  • Madurez: unas 39.000+ estrellas de GitHub en el momento de esta revisión; última versión v1.1.20 (2026-11-03); último commit el 2026-11-18, sobre todo actualizaciones semanales de los datos de benchmark y benchmarks enviados por la comunidad, más una corrección el 2026-11-17
  • Lo que no es: llmfit no es un motor de inferencia. Nunca carga un modelo; recomienda y luego cede el paso a un runtime como Ollama
  • El modo clúster para configuraciones con Ray figura como «Preview» en el README y, hasta ahora, «probado solo contra un panel de Ray simulado»
  • PromptQuorum no ha ejecutado llmfit; esta reseña se basa en el README, la carpeta docs, la API de GitHub y la página de versiones

Cómo funciona llmfit: detección, puntuación y benchmarks

Según el README y docs/how-it-works.md, llmfit trabaja en varios pasos.

  • Detección de hardware — lee los núcleos de CPU y la RAM y después sondea las GPU: NVIDIA con nvidia-smi, AMD con rocm-smi, Intel Arc con sysfs/lspci, Apple Silicon con system_profiler (la memoria unificada cuenta como VRAM) y Ascend con npu-smi
  • Base de datos de modelos — cientos de modelos obtenidos de la API de Hugging Face van incrustados en el binario al compilar, así que las actualizaciones del catálogo llegan actualizando llmfit
  • Cuantización dinámica — en lugar de asumir un formato fijo, recorre de Q8_0 a Q2_K y elige la mayor calidad que cabe en memoria; si nada cabe, lo reintenta con la mitad de contexto
  • Puntuación y velocidad — cada modelo recibe puntuaciones de 0 a 100 en calidad, velocidad, ajuste y contexto, ponderadas según el caso de uso; la velocidad sale de un modelo de ancho de banda de memoria y cada cifra lleva una etiqueta de confianza, de «estimated» a «measured_local»
  • Interfaces — una interfaz de terminal interactiva por defecto, más comandos como fit, recommend, info, bench, doctor, storage y serve; serve inicia un panel web y una API REST (/api/v1/system, /api/v1/models)
  • Proveedores y benchmarks — detecta modelos instalados e inicia descargas a través de Ollama, llama.cpp, MLX, Docker Model Runner y LM Studio, mide con bench los tokens por segundo reales y el tiempo hasta el primer token, y puede compartir resultados con el proyecto de forma opcional

Obtener llmfit

llmfit se instala desde un terminal; no hay instalador .dmg ni .exe. Basta un comando en Windows, macOS y Linux.

Plataforma
Comando o enlace
Windows (winget)winget install --exact --id AlexsJones.llmfit
Windows (Scoop)scoop install llmfit
macOS / Linux (Homebrew)brew install AlexsJones/llmfit/llmfit
macOS / Linux (script)llmfit.axjns.dev
Python (uv)uv tool install -U llmfit
Dockerdocker run -it --rm ghcr.io/alexsjones/llmfit --tui
Binarios precompiladosReleases
Código fuente (MIT)GitHub

Versión actual: v1.1.20, publicada el 2026-11-03 en la página de versiones; el último push al repositorio fue el 2026-11-18, comprobado el 2026-11-19. La página de versiones solo ofrece archivos .tar.gz y .zip, así que hace falta un terminal. No existe un sitio web de producto dedicado: el repositorio de GitHub es la página principal, y llmfit.axjns.dev solo aloja el script de instalación. Los binarios de Windows se firman con SignPath desde la v1.1.19, según el README. Como con cualquier comando curl a shell, lee primero el script o usa un gestor de paquetes.

Privacidad y tratamiento de datos

Según el README, comprobado el 2026-11-19, llmfit «no transferirá ninguna información a otros sistemas en red a menos que lo solicite expresamente el usuario o la persona que lo instala o lo opera» (traducción libre del inglés).

  • El README indica que llmfit solo contacta con servicios externos para las funciones que invocas: descargas de modelos, consultas a proveedores de runtime y la clasificación de la comunidad
  • Las ejecuciones de benchmark se guardan primero en local; compartirlas es un paso aparte y opcional que envía los resultados al proyecto como pull request, según el README
  • llmfit serve inicia una API HTTP y un panel web; el ejemplo del README lo enlaza a 0.0.0.0, lo que lo hace accesible desde otros equipos de la red, así que elige el host con cuidado
  • Esta reseña no encontró empresa, página de política de privacidad, cláusula de ley aplicable ni aviso legal; el pasaje del README anterior es la única declaración sobre privacidad

Licencia y precio de llmfit

llmfit es gratuita y de código abierto, según el repositorio de GitHub, comprobado el 2026-11-19.

Elemento
Detalle
LicenciaMIT
PrecioGratis; no se encontró plan de pago
Cuenta / clave de APINo se menciona

El README y la documentación no mencionan plan de pago, cuenta ni clave de API. Según el README, los datos de benchmark de la comunidad que acompañan cada versión proceden de pull requests enviados.

¿Para quién es llmfit?

llmfit encaja mejor cuando la pregunta es «¿qué puede ejecutar mi equipo?» y no «ejecuta esto por mí».

Usa llmfit si

  • Quieres una lista corta ordenada de LLM abiertos y cuantizaciones para tu CPU, RAM y GPU antes de descargar nada
  • Ya usas un runtime local y quieres una segunda opinión sobre lo que cabe
  • Quieres salida JSON o una API HTTP para alimentar scripts o pipelines de despliegue con recomendaciones de modelos
  • Planeas una configuración con varias GPU o varios equipos y quieres comprobar los repartos antes del arranque (el modo clúster es una vista previa)

Espera, o busca otra opción, si

  • Quieres una herramienta que ejecute modelos y converse con ellos: llmfit solo recomienda y cede el paso a un runtime
  • Necesitas velocidades exactas sin hacer benchmark: las cifras son estimaciones hasta que ejecutes bench
  • Usas Windows con una GPU AMD o Intel: la documentación describe la detección de GPU allí solo mediante nvidia-smi, así que usa el ajuste manual de memoria
  • Quieres una aplicación de escritorio empaquetada: el README documenta una interfaz de terminal, una CLI y un panel web, y la página de versiones solo ofrece archivos

llmfit frente a las alternativas

llmfit se sitúa junto a los runtimes que admite, no en su lugar. Consulta el Local AI Directory para ver el catálogo completo.

  • Ollama — ejecuta y sirve modelos desde la línea de comandos; llmfit puede listar cuáles caben e iniciar la descarga a través de Ollama. Consulta la reseña de Ollama.
  • LM Studio — una aplicación de escritorio que descarga y ejecuta modelos con interfaz de chat; llmfit la admite como proveedor, pero no ofrece chat propio. Consulta la reseña de LM Studio.
  • Docker Model Runner — el servicio de modelos integrado en Docker Desktop; llmfit lo lista como proveedor de runtime compatible. Consulta la reseña de Docker Model Runner.
  • llm-checker — citado en el README de llmfit como alternativa: una CLI de Node.js con integración con Ollama que evalúa los modelos ejecutándolos de verdad, mientras que llmfit estima a partir de las especificaciones; el README añade que llm-checker trata todos los modelos como densos y no como mezcla de expertos.

Comparar en el directorio

Preguntas frecuentes

¿llmfit ejecuta o descarga modelos por sí mismo?

No. Recomienda modelos y, a través de un proveedor compatible, puede iniciar una descarga; es el proveedor quien ejecuta el modelo.

¿Qué tan precisas son las velocidades de llmfit?

Son estimaciones de una fórmula de ancho de banda de memoria, salvo que se indique otra cosa. bench mide tokens por segundo reales y, según la documentación, los valores medidos sustituyen a las estimaciones en la tabla.

¿Qué GPU detecta llmfit?

Según la documentación de plataformas: NVIDIA, AMD, Intel Arc, Apple Silicon y Ascend en Linux, Apple Silicon en macOS y NVIDIA mediante nvidia-smi en Windows; hay ajustes manuales si la detección falla.

¿llmfit envía los datos de mi hardware a algún sitio?

Según el README, solo contacta con servicios externos cuando usas una función que los necesita, como descargas, consultas a proveedores o la clasificación de la comunidad.

¿Hay una aplicación gráfica de llmfit?

No como descarga empaquetada: el README documenta una interfaz de terminal, una CLI y un panel web. El README menciona una interfaz gráfica de Windows independiente, creada por terceros, llamada llmfit-gui, que esta reseña no examinó.

Fuentes

← Volver a LLM locales avanzados

MCP