¿Qué es llmfit?
El README de llmfit describe una herramienta que «inspecciona tu CPU, la RAM del sistema, la(s) GPU, la VRAM y la configuración del acelerador para recomendar modelos en las cuantizaciones más habituales» (traducción libre del inglés).
- Mantenida por el usuario de GitHub AlexsJones; el repositorio se creó en febrero de 2026 y el proyecto no tiene empresa ni sitio web dedicado
- Madurez: unas 39.000+ estrellas de GitHub en el momento de esta revisión; última versión v1.1.20 (2026-11-03); último commit el 2026-11-18, sobre todo actualizaciones semanales de los datos de benchmark y benchmarks enviados por la comunidad, más una corrección el 2026-11-17
- Lo que no es: llmfit no es un motor de inferencia. Nunca carga un modelo; recomienda y luego cede el paso a un runtime como Ollama
- El modo clúster para configuraciones con Ray figura como «Preview» en el README y, hasta ahora, «probado solo contra un panel de Ray simulado»
- PromptQuorum no ha ejecutado llmfit; esta reseña se basa en el README, la carpeta docs, la API de GitHub y la página de versiones
Cómo funciona llmfit: detección, puntuación y benchmarks
Según el README y docs/how-it-works.md, llmfit trabaja en varios pasos.
- Detección de hardware — lee los núcleos de CPU y la RAM y después sondea las GPU: NVIDIA con nvidia-smi, AMD con rocm-smi, Intel Arc con sysfs/lspci, Apple Silicon con system_profiler (la memoria unificada cuenta como VRAM) y Ascend con npu-smi
- Base de datos de modelos — cientos de modelos obtenidos de la API de Hugging Face van incrustados en el binario al compilar, así que las actualizaciones del catálogo llegan actualizando llmfit
- Cuantización dinámica — en lugar de asumir un formato fijo, recorre de Q8_0 a Q2_K y elige la mayor calidad que cabe en memoria; si nada cabe, lo reintenta con la mitad de contexto
- Puntuación y velocidad — cada modelo recibe puntuaciones de 0 a 100 en calidad, velocidad, ajuste y contexto, ponderadas según el caso de uso; la velocidad sale de un modelo de ancho de banda de memoria y cada cifra lleva una etiqueta de confianza, de «estimated» a «measured_local»
- Interfaces — una interfaz de terminal interactiva por defecto, más comandos como fit, recommend, info, bench, doctor, storage y serve; serve inicia un panel web y una API REST (/api/v1/system, /api/v1/models)
- Proveedores y benchmarks — detecta modelos instalados e inicia descargas a través de Ollama, llama.cpp, MLX, Docker Model Runner y LM Studio, mide con bench los tokens por segundo reales y el tiempo hasta el primer token, y puede compartir resultados con el proyecto de forma opcional
Obtener llmfit
llmfit se instala desde un terminal; no hay instalador .dmg ni .exe. Basta un comando en Windows, macOS y Linux.
Plataforma | Comando o enlace |
|---|---|
| Windows (winget) | winget install --exact --id AlexsJones.llmfit |
| Windows (Scoop) | scoop install llmfit |
| macOS / Linux (Homebrew) | brew install AlexsJones/llmfit/llmfit |
| macOS / Linux (script) | llmfit.axjns.dev |
| Python (uv) | uv tool install -U llmfit |
| Docker | docker run -it --rm ghcr.io/alexsjones/llmfit --tui |
| Binarios precompilados | Releases |
| Código fuente (MIT) | GitHub |
Versión actual: v1.1.20, publicada el 2026-11-03 en la página de versiones; el último push al repositorio fue el 2026-11-18, comprobado el 2026-11-19. La página de versiones solo ofrece archivos .tar.gz y .zip, así que hace falta un terminal. No existe un sitio web de producto dedicado: el repositorio de GitHub es la página principal, y llmfit.axjns.dev solo aloja el script de instalación. Los binarios de Windows se firman con SignPath desde la v1.1.19, según el README. Como con cualquier comando curl a shell, lee primero el script o usa un gestor de paquetes.
Privacidad y tratamiento de datos
Según el README, comprobado el 2026-11-19, llmfit «no transferirá ninguna información a otros sistemas en red a menos que lo solicite expresamente el usuario o la persona que lo instala o lo opera» (traducción libre del inglés).
- El README indica que llmfit solo contacta con servicios externos para las funciones que invocas: descargas de modelos, consultas a proveedores de runtime y la clasificación de la comunidad
- Las ejecuciones de benchmark se guardan primero en local; compartirlas es un paso aparte y opcional que envía los resultados al proyecto como pull request, según el README
llmfit serveinicia una API HTTP y un panel web; el ejemplo del README lo enlaza a 0.0.0.0, lo que lo hace accesible desde otros equipos de la red, así que elige el host con cuidado- Esta reseña no encontró empresa, página de política de privacidad, cláusula de ley aplicable ni aviso legal; el pasaje del README anterior es la única declaración sobre privacidad
Licencia y precio de llmfit
llmfit es gratuita y de código abierto, según el repositorio de GitHub, comprobado el 2026-11-19.
Elemento | Detalle |
|---|---|
| Licencia | MIT |
| Precio | Gratis; no se encontró plan de pago |
| Cuenta / clave de API | No se menciona |
El README y la documentación no mencionan plan de pago, cuenta ni clave de API. Según el README, los datos de benchmark de la comunidad que acompañan cada versión proceden de pull requests enviados.
¿Para quién es llmfit?
llmfit encaja mejor cuando la pregunta es «¿qué puede ejecutar mi equipo?» y no «ejecuta esto por mí».
Usa llmfit si
- Quieres una lista corta ordenada de LLM abiertos y cuantizaciones para tu CPU, RAM y GPU antes de descargar nada
- Ya usas un runtime local y quieres una segunda opinión sobre lo que cabe
- Quieres salida JSON o una API HTTP para alimentar scripts o pipelines de despliegue con recomendaciones de modelos
- Planeas una configuración con varias GPU o varios equipos y quieres comprobar los repartos antes del arranque (el modo clúster es una vista previa)
Espera, o busca otra opción, si
- Quieres una herramienta que ejecute modelos y converse con ellos: llmfit solo recomienda y cede el paso a un runtime
- Necesitas velocidades exactas sin hacer benchmark: las cifras son estimaciones hasta que ejecutes bench
- Usas Windows con una GPU AMD o Intel: la documentación describe la detección de GPU allí solo mediante nvidia-smi, así que usa el ajuste manual de memoria
- Quieres una aplicación de escritorio empaquetada: el README documenta una interfaz de terminal, una CLI y un panel web, y la página de versiones solo ofrece archivos
llmfit frente a las alternativas
llmfit se sitúa junto a los runtimes que admite, no en su lugar. Consulta el Local AI Directory para ver el catálogo completo.
- Ollama — ejecuta y sirve modelos desde la línea de comandos; llmfit puede listar cuáles caben e iniciar la descarga a través de Ollama. Consulta la reseña de Ollama.
- LM Studio — una aplicación de escritorio que descarga y ejecuta modelos con interfaz de chat; llmfit la admite como proveedor, pero no ofrece chat propio. Consulta la reseña de LM Studio.
- Docker Model Runner — el servicio de modelos integrado en Docker Desktop; llmfit lo lista como proveedor de runtime compatible. Consulta la reseña de Docker Model Runner.
- llm-checker — citado en el README de llmfit como alternativa: una CLI de Node.js con integración con Ollama que evalúa los modelos ejecutándolos de verdad, mientras que llmfit estima a partir de las especificaciones; el README añade que llm-checker trata todos los modelos como densos y no como mezcla de expertos.
Preguntas frecuentes
¿llmfit ejecuta o descarga modelos por sí mismo?
No. Recomienda modelos y, a través de un proveedor compatible, puede iniciar una descarga; es el proveedor quien ejecuta el modelo.
¿Qué tan precisas son las velocidades de llmfit?
Son estimaciones de una fórmula de ancho de banda de memoria, salvo que se indique otra cosa. bench mide tokens por segundo reales y, según la documentación, los valores medidos sustituyen a las estimaciones en la tabla.
¿Qué GPU detecta llmfit?
Según la documentación de plataformas: NVIDIA, AMD, Intel Arc, Apple Silicon y Ascend en Linux, Apple Silicon en macOS y NVIDIA mediante nvidia-smi en Windows; hay ajustes manuales si la detección falla.
¿llmfit envía los datos de mi hardware a algún sitio?
Según el README, solo contacta con servicios externos cuando usas una función que los necesita, como descargas, consultas a proveedores o la clasificación de la comunidad.
¿Hay una aplicación gráfica de llmfit?
No como descarga empaquetada: el README documenta una interfaz de terminal, una CLI y un panel web. El README menciona una interfaz gráfica de Windows independiente, creada por terceros, llamada llmfit-gui, que esta reseña no examinó.
