Skip to main content
PromptQuorumBuilt for humans. Structured for AI.
Inicio/LLM locales avanzados
Overview & Reference

LocalAI explicado: la alternativa autoalojada a la API de OpenAI (2026)

·12 min de lecturaPor Hans Kuepper · Fundador de PromptQuorum · Motor de descubrimiento de IA de pesos abiertos y código abierto

LocalAI es un motor de IA gratuito, con licencia MIT y autoalojado, que expone una API compatible con OpenAI (además de endpoints compatibles con Anthropic y ElevenLabs) frente a un conjunto modular de backends de inferencia cargados de forma independiente. En lugar de incluir un único motor de inferencia fijo, su núcleo enruta cada solicitud a un proceso backend intercambiable — llama.cpp y vLLM para texto, backends basados en diffusers para generación de imágenes, backends basados en whisper.cpp para transcripción, y otros para síntesis de voz y embeddings — de modo que una sola instancia autoalojada puede cubrir varias modalidades que de otro modo requerirían herramientas separadas. Funciona solo con CPU sin necesidad de GPU, o con aceleración NVIDIA CUDA, AMD ROCm, Intel o Vulkan, y se distribuye como imágenes Docker, un instalador de macOS y un binario de CLI.

Conclusiones clave

  • Gratuito y con licencia MIT, creado por Ettore Di Giacinto ("mudler") y mantenido en github.com/mudler/LocalAI
  • API compatible con OpenAI lista para sustituirla, además de endpoints compatibles con Anthropic y ElevenLabs
  • Un núcleo ligero enruta las solicitudes a backends cargados de forma independiente en lugar de incluir un motor de inferencia fijo
  • Los backends documentados por el proyecto incluyen llama.cpp y vLLM para texto, backends basados en diffusers para generación de imágenes y backends basados en whisper.cpp para transcripción
  • Cubre generación de texto, generación de imágenes, transcripción, síntesis de voz y embeddings desde una sola instancia en ejecución
  • Funciona solo con CPU sin necesidad de GPU, o con aceleración NVIDIA CUDA, AMD ROCm, Intel o Vulkan
  • Se distribuye como imágenes Docker (variantes de CPU y GPU), un instalador de macOS y un binario de CLI; el despliegue en Kubernetes está documentado
  • No es un motor de inferencia bruta rival: carga motores como llama.cpp y vLLM como backends en lugar de sustituirlos

📍 En una frase

LocalAI es un motor gratuito, con licencia MIT y autoalojado, que expone una API compatible con OpenAI frente a backends intercambiables —incluidos llama.cpp, vLLM, diffusers y whisper.cpp— cubriendo texto, imagen y audio desde una sola instancia.

💬 En términos simples

En vez de una app para chatear, otra para generar imágenes y otra para transcribir, LocalAI es un único servidor autoalojado que habla la misma API que usa OpenAI, así que el código cliente de OpenAI ya existente puede apuntar ahí mientras delega cada solicitud, de forma transparente, al motor que realmente hace ese trabajo.

📌Nota: Este artículo se basa en el repositorio de GitHub oficial de LocalAI y su documentación pública, no en pruebas propias. Evita afirmaciones de funciones ligadas a una versión concreta y cifras de rendimiento porque LocalAI publica versiones con frecuencia y ninguno de los dos se midió de forma independiente para este artículo.

Leer en:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

LocalAI es un motor de IA gratuito, con licencia MIT y autoalojado, creado por Ettore Di Giacinto ("mudler") y mantenido por una comunidad de código abierto en github.com/mudler/LocalAI. Expone una API compatible con OpenAI lista para sustituirla (además de endpoints compatibles con Anthropic y ElevenLabs) frente a un conjunto modular de backends cargados de forma independiente, de modo que una sola instancia puede cubrir generación de texto, generación de imágenes, transcripción de audio, síntesis de voz y embeddings en lugar de necesitar una herramienta distinta por modalidad. LocalAI no sustituye a motores como llama.cpp o vLLM: puede cargar cualquiera de los dos (y otros) como backend, actuando como una capa de orquestación y compatibilidad de API en lugar de un motor de inferencia rival.

LocalAI explicado: la alternativa autoalojada a la API de OpenAI (2026)

¿Qué es LocalAI?

LocalAI es un motor de IA gratuito, con licencia MIT y autoalojado, que permite ejecutar en tu propio hardware modelos de texto, imagen y audio compatibles con la API de OpenAI. Lo creó Ettore Di Giacinto, conocido como "mudler" en GitHub, y hoy lo mantiene una comunidad de código abierto. El proyecto describe su objetivo como ejecutar modelos en múltiples modalidades sobre cualquier hardware, sin que una GPU sea estrictamente necesaria.

  • Creado por Ettore Di Giacinto ("mudler"); código fuente y documentación en github.com/mudler/LocalAI
  • Con licencia MIT: uso, modificación y autoalojamiento libres, incluso con fines comerciales, dentro de los términos de la licencia
  • Expone un servidor compatible con la API de OpenAI, además de endpoints compatibles con Anthropic y ElevenLabs documentados, de modo que código cliente existente para esas API a menudo puede apuntar a una instancia autoalojada de LocalAI
  • Se posiciona por la amplitud de modalidades más que por ser el más rápido en una sola —texto, imagen y audio desde un solo despliegue
  • Distinto de un motor de inferencia único: su propio núcleo gestiona el enrutamiento de solicitudes y la compatibilidad de API, mientras la ejecución del modelo ocurre en procesos backend separados

¿Cómo funciona la arquitectura de backends de LocalAI?

El núcleo de LocalAI es un enrutador ligero, no un motor de inferencia monolítico: recibe una solicitud compatible con OpenAI, determina a qué modelo y backend corresponde, y se comunica con un proceso backend separado que ejecuta realmente la inferencia.

  • El proceso principal gestiona la compatibilidad de API, el enrutamiento de solicitudes y la configuración de modelos, y luego se comunica con los procesos backend por gRPC
  • Los backends documentados por el proyecto incluyen llama.cpp y vLLM para generación de texto, backends basados en diffusers para generación de imágenes, y backends basados en whisper.cpp para transcripción
  • Los backends se pueden instalar desde una galería de modelos/backends, o configurar manualmente con un archivo YAML que apunte a un backend y modelo específicos
  • Como los backends son componentes instalables separados, un despliegue solo necesita cargar los backends que realmente requiere su caso de uso, en lugar de incluir todos los motores posibles por defecto
  • El proyecto también desarrolla algunos backends nativos propios además de integrar motores existentes

¿Qué puede hacer LocalAI más allá de la generación de texto?

El alcance documentado de LocalAI cubre más modalidades que motores solo de texto como llama.cpp o vLLM, que es su principal diferencia frente a esas herramientas.

Generación de texto

Backend típico:
llama.cpp, vLLM — endpoints de chat/completions

Generación de imágenes

Backend típico:
Backends basados en diffusers (tipo Stable Diffusion)

Transcripción (STT)

Backend típico:
Backends basados en whisper.cpp

Síntesis de voz (TTS)

Backend típico:
Backends de TTS dedicados documentados por el proyecto

Embeddings

Backend típico:
Backends dedicados de modelos de embedding

Cada fila anterior es un backend separado que debe instalarse para que esa modalidad funcione; instalar solo LocalAI no habilita automáticamente todas las modalidades. Los nombres exactos de los backends y su cobertura cambian entre versiones, así que la galería propia del proyecto es la fuente actual, no una lista fija.

¿Qué hardware necesita LocalAI?

El posicionamiento documentado de LocalAI es que funciona en cualquier hardware, sin que una GPU sea estrictamente necesaria: la misma instancia puede ejecutarse solo con CPU para cargas más ligeras, o usar aceleración por GPU cuando esté disponible para modelos más grandes.

Solo CPU

Detalles:
Documentado como totalmente compatible sin GPU, usando backends optimizados para CPU como llama.cpp para texto.

GPU NVIDIA (CUDA)

Detalles:
Se publican imágenes Docker dedicadas para CUDA; la aceleración la usan los backends compatibles cuando hay una GPU compatible presente.

GPU AMD (ROCm)

Detalles:
Se publica una imagen Docker ROCm/hipBLAS como vía de aceleración AMD documentada.

GPU Intel (oneAPI)

Detalles:
Se publica una imagen Docker dedicada de Intel para aceleración de GPU Intel.

Vulkan

Detalles:
Se publica una imagen Docker de Vulkan como opción de aceleración GPU multi-fabricante.

Apple Silicon (Mac)

Detalles:
Se publica un instalador nativo de macOS; se documentan backends acelerados por Metal para Mac con Apple Silicon.

El tamaño de modelo realmente utilizable y la velocidad siguen dependiendo de la RAM/VRAM disponible y del backend que use un modelo dado, igual que con llama.cpp o vLLM directamente: el posicionamiento "sin GPU necesaria" de LocalAI describe que la vía solo-CPU está totalmente soportada, no que todo modelo o backend rinda igual de bien sin una.

¿Cómo se instala y ejecuta LocalAI?

La vía más rápida documentada por LocalAI es Docker, con una imagen solo de CPU y etiquetas de imagen aceleradas por GPU separadas según el hardware.

  1. 1
    Instala Docker si aún no lo tienes, y luego elige una imagen solo de CPU o una etiqueta de imagen GPU para tu hardware.
  2. 2
    Para uso solo con CPU, ejecuta: docker run -p 8080:8080 --name local-ai -ti localai/localai:latest.
  3. 3
    Para GPU NVIDIA, usa en su lugar una imagen CUDA, por ejemplo localai/localai:latest-gpu-nvidia-cuda-12, añadiendo --gpus all al comando de Docker.
  4. 4
    Para GPU AMD, Intel o Vulkan, usa la etiqueta -gpu-hipblas, -gpu-intel o -gpu-vulkan correspondiente documentada por el proyecto.
  5. 5
    Una vez en ejecución el contenedor, LocalAI escucha por defecto en el puerto 8080.
  6. 6
    Instala un modelo con la CLI (local-ai models install <name>) o la galería de modelos de la interfaz web, o inícialo directamente con local-ai run <name>, que lo descarga primero si es necesario.
  7. 7
    Envía tu primera solicitud al endpoint compatible con OpenAI: `curl http://localhost:8080/v1/chat/completions -H "Content-Type: application/json" -d '{"model": "<nombre-del-modelo-instalado>", "messages": [{"role": "user", "content": "¡Hola!"}]}'`.
  8. 8
    Apunta el código cliente existente de la API de OpenAI a tu instancia autoalojada cambiando solo la URL base y el nombre del modelo.

¿Necesito una GPU para ejecutar LocalAI?

No: LocalAI está documentado como funcional solo con CPU sin necesidad de GPU, y publica por separado etiquetas de imágenes Docker aceleradas por GPU para hardware NVIDIA, AMD, Intel y Vulkan para quien disponga de una.

¿De dónde vienen los modelos de LocalAI?

El proyecto documenta varias fuentes: su propia galería de modelos (instalable desde la CLI o la interfaz web), repositorios de Hugging Face, referencias en formato Ollama, URL de configuración YAML directas e imágenes OCI.

¿Cómo se compara LocalAI con Ollama?

LocalAI y Ollama facilitan ambos autoalojar modelos detrás de una API sencilla, pero apuntan a alcances distintos: Ollama está construido en torno a una vía rápida y mínima, para un solo usuario, de modelos de texto (y algo de visión), mientras que LocalAI apuesta por una cobertura de modalidades más amplia y compatibilidad de API OpenAI/Anthropic/ElevenLabs para texto, imagen y audio.

  • Ollama se enfoca sobre todo en modelos de texto (y algo de visión), con una instalación y descarga de modelo en un solo comando, pensada para una configuración rápida de un solo usuario
  • LocalAI documenta una cobertura de modalidades más amplia en un solo despliegue —texto, generación de imágenes, transcripción y síntesis de voz— cargando distintos backends para cada una
  • LocalAI documenta compatibilidad lista para sustituir tres formatos de API (OpenAI, Anthropic, ElevenLabs); la interfaz principal de Ollama es su propia API, con una capa de compatibilidad OpenAI separada
  • LocalAI puede cargar referencias de modelos en formato Ollama (ollama://) como una de varias fuentes de modelos admitidas, junto a su propia galería, Hugging Face y configuraciones YAML
  • La superficie de configuración de Ollama es deliberadamente mínima; LocalAI expone más configuración (selección de backend, configuraciones YAML de modelos, múltiples objetivos de despliegue) a cambio de ese alcance más amplio

¿Cómo se compara LocalAI con llama.cpp y vLLM?

LocalAI no es un motor de inferencia bruta rival de llama.cpp o vLLM: su arquitectura documentada carga a ambos como backends intercambiables para generación de texto, junto a backends separados para imagen y audio.

llama.cpp

Rol:
Un motor de inferencia de texto amigable con CPU/GPU; uno de los backends de texto que LocalAI puede cargar.
Artículos sobre llama.cpp (10)

+167 más no mostrados

vLLM

Rol:
Un motor de serving GPU de alto rendimiento; documentado como otro backend de texto que LocalAI puede cargar.
Artículos sobre vLLM (10)

+84 más no mostrados

LocalAI

Rol:
La capa de enrutamiento y compatibilidad de API sobre esos backends, que añade backends de imagen, audio y embeddings además de texto.
Artículos sobre LocalAI (9)

+8 más no mostrados

Elegir entre estos proyectos normalmente no es "uno u otro": un despliegue de LocalAI puede estar ejecutando llama.cpp o vLLM por debajo para sus solicitudes de texto. La decisión es si quieres hablar directamente con ese motor (llama.cpp, vLLM) o a través de una capa de API multimodal más amplia que también pueda enrutar solicitudes de imagen y audio (LocalAI).

¿Quién debería usar LocalAI?

LocalAI encaja con quien quiere una sola superficie de API autoalojada que cubra varias modalidades, no con quien solo busca la vía más rápida hacia un único modelo de texto en su propia máquina.

Usa LocalAI si

  • Un solo servidor autoalojado debe cubrir texto, generación de imágenes y audio (transcripción y síntesis de voz) detrás de una única API compatible con OpenAI
  • Ya existe código de aplicación escrito contra las API de OpenAI, Anthropic o ElevenLabs y debe apuntar a infraestructura autoalojada con cambios mínimos
  • Se busca flexibilidad para cambiar el backend de texto subyacente (llama.cpp, vLLM) sin reescribir el código que llama a la API
  • Docker y una configuración YAML básica para backends y modelos no suponen un problema

Evita LocalAI si

  • Solo necesitas chat de texto rápido y mínimo, de un solo usuario, en tu propia máquina: Ollama o LM Studio tienen una superficie de configuración más pequeña para ese caso concreto
  • Necesitas el máximo rendimiento posible de GPU solo para texto: hablar directamente con vLLM evita una capa de enrutamiento adicional
  • Prefieres una app de escritorio gráfica sin configuración en lugar de un servidor autoalojado que configurar y mantener

LocalAI frente a alternativas, de un vistazo

Estas herramientas se solapan en algunos puntos pero difieren en alcance y esfuerzo de configuración.

LocalAI

Alcance:
Texto, imagen, audio, embeddings vía backends intercambiables. Docker, instalador de macOS o binario de CLI.
Ideal para:
Una sola API autoalojada, multimodal, compatible con OpenAI/Anthropic/ElevenLabs.
Artículos sobre LocalAI (9)

+8 más no mostrados

Ollama

Alcance:
Sobre todo modelos de texto (y algo de visión). Instalación y descarga de modelo en un comando.
Ideal para:
La vía más rápida hacia un modelo de texto local para un solo usuario.
Artículos sobre Ollama (10)

+310 más no mostrados

llama.cpp

Alcance:
Motor de inferencia de texto para CPU y GPU. CLI, interfaz web y servidor compatible con OpenAI.
Ideal para:
Control directo a nivel de motor sobre la inferencia de texto; a menudo el backend bajo Ollama y LocalAI.
Artículos sobre llama.cpp (10)

+167 más no mostrados

vLLM

Alcance:
Biblioteca de serving de texto GPU de alto rendimiento. Paquete de Python, servidor compatible con OpenAI.
Ideal para:
Máximo rendimiento GPU concurrente solo para texto.
Artículos sobre vLLM (10)

+84 más no mostrados

Este artículo no ha hecho pruebas propias comparando estas herramientas entre sí y no afirma que una sea técnicamente superior: la comparación cubre solo hechos documentados de alcance, configuración y arquitectura.

Comparar en el directorio

¿Qué no cubre este artículo?

Este es un artículo explicativo construido a partir de la documentación pública y el repositorio de LocalAI, no una prueba práctica ni una auditoría de seguridad.

  • Sin comparaciones de rendimiento, latencia o calidad de salida medidas de forma independiente frente a Ollama, llama.cpp o vLLM; eso depende del backend y modelo configurados en LocalAI, además del hardware
  • Sin una lista exhaustiva de cada backend que admite el proyecto; el ecosistema de backends cambia con el tiempo, y la galería y documentación propias del proyecto son la fuente autorizada de cobertura actual
  • Sin una auditoría de seguridad línea por línea del código; es de código abierto y con licencia MIT, así que el código fuente está disponible para revisión independiente
  • Sin cobertura de todos los objetivos de despliegue (manifiestos de Kubernetes, configuraciones específicas de nube); este artículo se centra en las vías de Docker y CLI que la mayoría de quienes se autoalojan prueban primero
  • Sin verificación independiente de funciones multiusuario o empresariales (claves de API, cuotas, autenticación) más allá de lo que documenta el proyecto; verifica las capacidades actuales frente a la documentación oficial antes de depender de ellas para control de acceso en producción

Errores comunes al probar LocalAI

La mayor parte de la fricción con LocalAI viene de tratarlo como un motor único y fijo en lugar de como un enrutador delante de backends separados.

Error 1: esperar que un solo backend cubra todas las modalidades

Las capacidades de texto, imagen y audio de LocalAI provienen cada una de un backend distinto que debe instalarse para que esa modalidad funcione. Instalar solo LocalAI no habilita automáticamente todas las modalidades; primero hay que instalar el backend y el modelo pertinentes.

Error 2: suponer que "sin GPU necesaria" significa que todo modelo va rápido en CPU

Que el soporte solo-CPU esté totalmente documentado no significa que cualquier tamaño de modelo vaya rápido sin GPU; los modelos más grandes se siguen beneficiando de la aceleración por GPU, igual que bajo llama.cpp o vLLM directamente, ya que LocalAI delega el trabajo real de inferencia a esos motores.

Error 3: confundir LocalAI con apps de "Local AI" sin relación

"Local AI" y "LocalAI" se usan como términos descriptivos genéricos en muchos productos sin relación entre sí. Confirma que se trata específicamente de github.com/mudler/LocalAI antes de seguir instrucciones de instalación, ya que los nombres de sonido genérico para herramientas de IA local son comunes y no todos están relacionados con este proyecto.

Preguntas frecuentes

¿Qué es LocalAI?

LocalAI es un motor de IA gratuito, con licencia MIT y autoalojado, creado por Ettore Di Giacinto ("mudler"), que expone una API compatible con OpenAI frente a backends intercambiables para modelos de texto, imagen y audio.

¿Es gratis LocalAI?

Sí. LocalAI es software gratuito y de código abierto publicado bajo licencia MIT, sin necesidad de suscripción ni cuenta para autoalojarlo.

¿Necesita LocalAI una GPU?

No: LocalAI está documentado como funcional solo con CPU sin necesidad de GPU. También se publican imágenes Docker aceleradas por GPU separadas para hardware NVIDIA CUDA, AMD ROCm, Intel y Vulkan.

¿Es LocalAI lo mismo que llama.cpp?

No. llama.cpp es un motor de inferencia de texto; LocalAI es una capa de enrutamiento y compatibilidad de API que puede cargar llama.cpp (o vLLM, u otros motores) como uno de varios backends, además de añadir backends de imagen y audio.

¿Es LocalAI mejor que Ollama?

"Mejor" depende del alcance: Ollama es una herramienta más simple y estrecha, centrada sobre todo en modelos de texto con configuración mínima, mientras que LocalAI cubre un conjunto más amplio de modalidades (texto, imagen, audio) detrás de una API, a cambio de más configuración.

¿Qué API admite LocalAI?

LocalAI documenta compatibilidad lista para sustituir la API de OpenAI, además de endpoints compatibles con Anthropic y ElevenLabs, de modo que el código cliente existente para esas API a menudo funciona contra una instancia autoalojada de LocalAI con solo cambiar la URL base.

¿Puede LocalAI generar imágenes y transcribir audio, no solo chatear?

Sí. Los backends documentados de LocalAI incluyen backends basados en diffusers para generación de imágenes y backends basados en whisper.cpp para transcripción, además de backends de síntesis de voz y embeddings.

¿Tiene LocalAI relación con la app móvil "Loci"?

No. Loci es una app móvil independiente y sin relación para chat sin conexión en el dispositivo. LocalAI es el proyecto de servidor autoalojado en github.com/mudler/LocalAI, sin código, empresa ni relación compartida con Loci.

¿Qué puerto usa LocalAI por defecto?

LocalAI escucha por defecto en el puerto 8080 cuando se ejecuta mediante sus imágenes Docker documentadas.

¿De dónde puede obtener modelos LocalAI?

El proyecto documenta varias fuentes de modelos: su propia galería instalable, repositorios de Hugging Face, referencias en formato Ollama, URL de configuración YAML directas e imágenes OCI.

Fuentes

← Volver a LLM locales avanzados

MCP