¿Qué es Foundry Local?
Foundry Local es la herramienta de inferencia de IA en el dispositivo de Microsoft — una solución de IA local de extremo a extremo para crear aplicaciones que se ejecutan totalmente en el dispositivo del usuario. Su repositorio de GitHub lo describe como la combinación de SDK nativos, aceleración por hardware automática y un catálogo de modelos seleccionado en un paquete ligero, dirigido a desarrolladores cuya inferencia necesita ocurrir en el propio dispositivo, no en un servidor remoto.
- Función principal: ejecutar inferencia de modelos de IA localmente en un dispositivo, con el runtime detectando y usando automáticamente la mejor aceleración por hardware disponible
- SDK nativos: C#, JavaScript, Rust y Python, para que los desarrolladores integren la inferencia local en aplicaciones escritas en cada uno de esos lenguajes sin un wrapper aparte
- Detección automática de aceleración por hardware: el runtime elige el proveedor de ejecución óptimo — NPU, GPU o CPU — para el dispositivo en el que se ejecuta, en lugar de exigir que el desarrollador fije esa elección en el código
- Catálogo de modelos: un conjunto seleccionado de modelos, no un sistema de carga abierto e ilimitado
- Desarrollador: Microsoft; la organización de GitHub que aloja el código es microsoft
- Repositorio canónico: github.com/microsoft/Foundry-Local; sitio del proyecto: foundrylocal.ai
Foundry Local vs. Azure AI Foundry
Esta es la distinción más importante sobre Foundry Local: Foundry Local no es el mismo producto que Azure AI Foundry, la plataforma en la nube de Microsoft para crear y desplegar IA a escala. Según el propio posicionamiento de Microsoft, Foundry Local es "la pila de runtime de IA local de alto rendimiento que lleva el poder de Azure AI Foundry a los dispositivos cliente" — una frase que indica una relación deliberada entre ambos, no productos idénticos.
Dónde se ejecuta la inferencia
- Foundry Local:
- Totalmente en el propio dispositivo del usuario
- Azure AI Foundry:
- La infraestructura en la nube de Microsoft
Cuenta de Azure necesaria
- Foundry Local:
- No, para uso solo local
- Azure AI Foundry:
- Sí, es un servicio en la nube de Azure
Capacidad sin conexión
- Foundry Local:
- Sí, una vez descargados los modelos
- Azure AI Foundry:
- No, es una plataforma en la nube alojada
Propósito principal
- Foundry Local:
- Inferencia en el dispositivo para aplicaciones cliente
- Azure AI Foundry:
- Crear y desplegar soluciones de IA a escala de nube
Ambos productos están diseñados para interoperar en flujos de trabajo híbridos — un desarrollador podría prototipar y probar localmente con Foundry Local, y luego escalar una carga de trabajo a los endpoints en la nube de Azure AI Foundry cuando necesite más capacidad de la que un solo dispositivo puede ofrecer —, pero siguen siendo productos independientes, y Foundry Local no requiere una suscripción a Azure para uso solo local. No asumas que ambos nombres se refieren a lo mismo, ni que instalar Foundry Local crea alguna dependencia de una cuenta de Azure.
Hitos de Foundry Local
Microsoft lanzó Foundry Local como contrapartida en el dispositivo de su plataforma más amplia Azure AI Foundry, dirigida a desarrolladores cuya inferencia necesita ejecutarse en hardware cliente en lugar de en la nube.
- 1Lanzamiento inicial — herramienta de inferencia en el dispositivo
Why it matters: Foundry Local se lanzó posicionado específicamente como la contrapartida local, en el dispositivo cliente, de Azure AI Foundry, en lugar de como un producto independiente sin relación con la estrategia de IA en la nube de Microsoft. - 2En curso — ampliación de SDK nativos (C#, JavaScript, Rust, Python)
Why it matters: Varios SDK nativos significan que los desarrolladores que trabajan en distintos ecosistemas de lenguajes pueden integrar la inferencia en el dispositivo sin escribir sus propios bindings alrededor de una única implementación de referencia. - 3En curso — ONNX Runtime como motor de inferencia
Why it matters: Construir sobre ONNX Runtime, en lugar de un motor de inferencia específico del proyecto, permite a Foundry Local beneficiarse del propio ecosistema de aceleración por hardware y proveedores de ejecución de ONNX Runtime. - 4En curso — ampliación del catálogo de modelos seleccionado
Why it matters: El catálogo ha crecido para incluir familias de modelos como Qwen, DeepSeek, Mistral, Phi y GPT-OSS, además de Whisper para transcripción de audio, ampliando lo que un desarrollador puede ejecutar localmente a través de la misma superficie SDK. - 5En curso — superficie de API compatible con OpenAI
Why it matters: Exponer una API compatible con OpenAI, incluidos los formatos de solicitud/respuesta de la OpenAI Responses API, reduce el coste de integración para aplicaciones ya construidas contra esa forma de API.
¿Qué puedes hacer con Foundry Local?
El conjunto de funciones de Foundry Local se centra en facilitar la integración de la inferencia en el dispositivo para un desarrollador, según su README de GitHub.
- SDK nativos — SDK de C#, JavaScript, Rust y Python para integrar la inferencia local directamente en aplicaciones escritas en cada lenguaje
- Detección automática de aceleración por hardware — el runtime elige el proveedor de ejecución óptimo (NPU, GPU o CPU) según el dispositivo, sin exigir que el desarrollador lo detecte y configure manualmente
- Catálogo de modelos seleccionado — familias de modelos como Qwen, DeepSeek, Mistral, Phi y GPT-OSS, además de Whisper para transcripción de audio; el catálogo está seleccionado en lugar de ser un sistema de carga abierto, y cada modelo tiene sus propios términos de licencia independientes
- API compatible con OpenAI — un servidor web local que admite formatos de solicitud y respuesta de OpenAI, incluido el formato de la OpenAI Responses API, para aplicaciones ya integradas contra esa forma de API
- Inferencia con ONNX Runtime — los modelos se ejecutan a través de ONNX Runtime, que gestiona la ejecución real en la ruta de aceleración por hardware detectada
- Huella ligera — una instalación de unos 20 MB para el propio runtime, con los modelos descargados por separado desde el catálogo
- CLI para gestión de modelos — comandos como
foundry model run <model-name>yfoundry model listpara ejecutar y listar modelos desde un terminal - Soporte multiplataforma — Windows, macOS (Apple Silicon) y Linux, según el README oficial
Ejemplos de uso: tres formas de usar Foundry Local
Estos son flujos de trabajo construidos a partir de la CLI y los SDK documentados de Foundry Local anteriores — no casos de uso hipotéticos.
Ejecutar un modelo desde la CLI
Tras instalar la CLI, ejecuta foundry model run qwen2.5-0.5b para descargar (si es necesario) y ejecutar un modelo del catálogo directamente en un terminal, útil para probar rápidamente un modelo antes de integrarlo en una aplicación.
Listar los modelos disponibles
Ejecuta foundry model list para ver los modelos actualmente disponibles en el catálogo, de modo que un desarrollador pueda confirmar que un modelo específico está soportado antes de integrarlo mediante el SDK.
Llamar a la inferencia local desde una aplicación Python o Node
Instala el SDK (pip install foundry-local-sdk para Python, o npm install foundry-local-sdk para JavaScript/Node) y llama al modelo local mediante la API del SDK, o mediante el servidor web local compatible con OpenAI si la aplicación ya habla ese formato de API — la inferencia se ejecuta totalmente en el dispositivo, sin que ningún dato salga de la máquina.
Instalación y primeros pasos
Foundry Local es una herramienta de desarrollo de CLI y SDK, no una única app de consumo con botones de descarga por sistema operativo, por lo que la instalación ocurre mediante GitHub Releases y gestores de paquetes de cada lenguaje, no mediante un instalador firmado desde una página de marketing.
- 1Descarga el instalador de la CLI para tu plataforma desde GitHub Releases — las etiquetas de versión siguen un patrón como
cli-preview-0.10.0; comprueba directamente la página de Releases para la versión actual en lugar de asumir un número concreto. - 2Para desarrollo en Python, instala el SDK desde PyPI:
pip install foundry-local-sdk. - 3Para desarrollo en JavaScript/Node, instala el SDK desde npm:
npm install foundry-local-sdk. - 4Ejecuta un modelo del catálogo para confirmar que la instalación funciona:
foundry model run qwen2.5-0.5b. - 5Lista los modelos disponibles en cualquier momento con
foundry model list. - 6En hardware compatible, la detección automática de aceleración por hardware de Foundry Local elige NPU, GPU o CPU por ti; no se necesita configuración manual del proveedor de ejecución para la ruta predeterminada.
Precios y licencia de Foundry Local
Foundry Local es gratuito de instalar y usar, sin necesidad de suscripción para inferencia solo local. Sin embargo, la licencia es más matizada que un único término general: el SDK tiene licencia MIT, mientras que la CLI se distribuye bajo los propios términos de licencia de software propietarios de Microsoft — confirmado mediante el propio archivo LICENSE del proyecto. No es exacto describir todo el producto como "de código abierto" o totalmente "bajo licencia MIT".
Foundry Local vs. Ollama
Foundry Local y Ollama se comparan porque ambos permiten a un desarrollador ejecutar modelos localmente mediante una CLI y una API — la diferencia real para un lector que decide entre ambos está en el motor de inferencia subyacente y en qué ecosistema (los SDK de Microsoft frente a un runtime agnóstico del hardware basado en llama.cpp) encaja mejor con la aplicación objetivo.
Propósito principal
- Foundry Local:
- Herramienta de inferencia en el dispositivo con SDK nativos para crear aplicaciones
- Ollama:
- Runtime local de modelos y API de propósito general
Motor de inferencia
- Foundry Local:
- ONNX Runtime, con selección automática de NPU/GPU/CPU según el dispositivo
- Ollama:
- Motor incorporado basado en llama.cpp
SDK nativos
- Foundry Local:
- C#, JavaScript, Rust, Python
- Ollama:
- Sin SDK propios; existen bibliotecas de la comunidad para varios lenguajes
Catálogo de modelos
- Foundry Local:
- Catálogo seleccionado (Qwen, DeepSeek, Mistral, Phi, GPT-OSS, Whisper)
- Ollama:
- Biblioteca de modelos grande y ampliamente abierta
Licencia
- Foundry Local:
- Dual: el SDK es MIT, la CLI son los términos de licencia propietarios de Microsoft
- Ollama:
- MIT (código abierto)
Plataformas
- Foundry Local:
- Windows, macOS (Apple Silicon), Linux, según el README oficial
- Ollama:
- Funciona en cualquier máquina Mac, Windows o Linux
Si un desarrollador quiere específicamente una selección automática de aceleración por hardware entre NPU, GPU y CPU con SDK nativos de C#, JavaScript, Rust o Python — por ejemplo, para crear una aplicación cliente para Windows o multiplataforma —, el diseño de Foundry Local encaja directamente con ese caso de uso. Si un desarrollador quiere la biblioteca de modelos más amplia y un runtime totalmente de código abierto, el flujo de trabajo de Ollama es la opción más directa. Consulta la review completa de Ollama para más detalles.
¿Quién debería usar Foundry Local?
Que Foundry Local merezca la pena depende sobre todo de si estás construyendo una aplicación (en lugar de solo querer una interfaz de chat) y de si los lenguajes SDK de Microsoft y su enfoque de aceleración por hardware encajan con tu proyecto.
Usa Foundry Local si
- Estás construyendo una aplicación en C#, JavaScript, Rust o Python y quieres soporte de SDK nativo para inferencia en el dispositivo en lugar de montar un cliente HTTP aparte
- Quieres detección automática de aceleración por hardware que elija el mejor proveedor de ejecución disponible (NPU, GPU o CPU) sin configuración manual para cada dispositivo objetivo
- Necesitas que los modelos se ejecuten totalmente en el dispositivo de un usuario sin requerir una suscripción a Azure para la ruta solo local
- Ya usas Azure AI Foundry en la nube y quieres una contrapartida local diseñada para interoperar con ella en flujos de trabajo híbridos
- Te sientes cómodo con un flujo de trabajo de desarrollador de CLI y SDK en lugar de una app de consumo gráfica
Espera, o busca otra opción, si
- Quieres una única licencia totalmente de código abierto para todo el producto — la CLI de Foundry Local tiene los propios términos de licencia propietarios de Microsoft, no MIT, aunque el SDK tenga licencia MIT
- Quieres la selección de modelos más amplia posible en lugar de un catálogo seleccionado — una herramienta agnóstica del hardware como Ollama o LM Studio ofrece una biblioteca más amplia
- Quieres una app de chat gráfica pulida para usuarios finales en lugar de una CLI y un SDK orientados a desarrolladores — Foundry Local no tiene una interfaz de chat de consumo propia
- Necesitas Foundry Local para algo distinto de las plataformas de su README oficial (Windows, macOS Apple Silicon, Linux) — confirma el soporte exacto de plataforma y dispositivo en el repositorio oficial en lugar de asumirlo
Foundry Local vs. otras herramientas de IA local
Foundry Local se sitúa en el segmento de runtimes y gestores, junto a otras herramientas que ejecutan modelos localmente mediante una CLI o API. Consulta el Local LLM Software Directory para el catálogo completo.
- Ollama — un runtime local de modelos y API de propósito general basado en llama.cpp, totalmente con licencia MIT, con una biblioteca de modelos más grande y abierta y sin requisito de SDK específico de Microsoft. La opción más directa si quieres la compatibilidad de hardware y la elección de modelos más amplias en lugar de SDK nativos de C#/JavaScript/Rust/Python. Consulta la review completa de Ollama.
- LM Studio — una app de escritorio centrada en la interfaz gráfica para inferencia local, con un navegador de modelos incorporado y una función de chat con documentos, dirigida a usuarios finales en lugar de a desarrolladores que integran un SDK. Una opción más cercana que Foundry Local si quieres una app gráfica pulida en lugar de una herramienta de desarrollo de CLI y SDK. Consulta la review completa de LM Studio.
- Docker Model Runner — una función de CLI y API incluida en Docker Desktop/Engine para desarrolladores que ya trabajan en un flujo basado en Docker, otra opción a comparar con el enfoque de SDK nativo de Foundry Local si tu stack está centrado en contenedores. Consulta la review completa de Docker Model Runner.
Errores comunes al evaluar Foundry Local
La mayor parte de la confusión sobre Foundry Local viene de confundirlo con Azure AI Foundry, o de asumir que todo el producto es de código abierto.
Error 1: confundir Foundry Local con Azure AI Foundry
Foundry Local es un producto independiente, en el dispositivo, distinto de Azure AI Foundry, la plataforma en la nube de Microsoft para crear y desplegar IA a escala. Foundry Local se ejecuta totalmente en el dispositivo de un usuario y no requiere una suscripción a Azure para uso solo local, aunque ambos estén diseñados para interoperar en flujos de trabajo híbridos.
Error 2: asumir que Foundry Local es totalmente de código abierto
Solo el SDK tiene licencia MIT. La CLI se distribuye bajo los propios términos de licencia de software propietarios de Microsoft, según el archivo LICENSE del proyecto — describir todo el producto como "de código abierto" o "con licencia MIT" sin esa distinción es inexacto.
Error 3: asumir que el catálogo de modelos cubre cualquier modelo que quieras
El catálogo de Foundry Local está seleccionado (familias de modelos como Qwen, DeepSeek, Mistral, Phi, GPT-OSS, además de Whisper), no es un sistema de carga abierto. Comprueba el catálogo para un modelo específico antes de asumir su disponibilidad, y recuerda que cada modelo tiene sus propios términos de licencia independientes.
Error 4: asumir soporte de plataforma o dispositivo más allá de lo documentado
El README oficial documenta soporte para Windows, macOS (Apple Silicon) y Linux. Algunos listados de terceros mencionan plataformas adicionales; confirma la cobertura exacta de plataforma y dispositivo directamente en el repositorio oficial en lugar de asumir que una plataforma está soportada.
Preguntas frecuentes
¿Qué es Foundry Local?
Foundry Local (github.com/microsoft/Foundry-Local) es la herramienta de inferencia de IA en el dispositivo de Microsoft — una solución de IA local de extremo a extremo para crear aplicaciones que se ejecutan totalmente en el dispositivo del usuario, con SDK nativos para C#, JavaScript, Rust y Python.
¿Es Foundry Local lo mismo que Azure AI Foundry?
No. Foundry Local es un producto independiente, en el dispositivo, que se ejecuta totalmente en el dispositivo de un usuario sin necesitar una suscripción a Azure para uso solo local. Azure AI Foundry es la plataforma en la nube de Microsoft para crear y desplegar IA a escala. Ambos están diseñados para interoperar en flujos de trabajo híbridos, pero no son el mismo producto.
¿Es Foundry Local de código abierto?
Parcialmente. El SDK tiene licencia MIT, pero la CLI se distribuye bajo los propios términos de licencia de software propietarios de Microsoft, según el archivo LICENSE del proyecto. No es exacto llamar a todo el producto de código abierto.
¿Es gratuito Foundry Local?
Sí, Foundry Local en sí es gratuito de instalar y usar para inferencia exclusivamente local, sin necesidad de suscripción. Los modelos individuales descargados tienen sus propios términos de licencia independientes, y cualquier uso de Azure AI Foundry junto a él en un flujo de trabajo híbrido conlleva la facturación independiente de Azure.
¿Cómo instalo Foundry Local?
Descarga el instalador de la CLI desde GitHub Releases, instala el SDK de Python con pip install foundry-local-sdk, o instala el SDK de JavaScript/Node con npm install foundry-local-sdk.
¿Qué plataformas soporta Foundry Local?
Windows, macOS (Apple Silicon) y Linux, según el README oficial. Comprueba directamente el repositorio oficial para la cobertura completa de plataformas y dispositivos antes de asumir que una clase de dispositivo concreta está soportada.
¿Qué modelos hay disponibles en el catálogo de Foundry Local?
El catálogo está seleccionado e incluye familias de modelos como Qwen, DeepSeek, Mistral, Phi y GPT-OSS, además de Whisper para transcripción de audio. Cada modelo tiene sus propios términos de licencia independientes.
¿Expone Foundry Local una API compatible con OpenAI?
Sí. Foundry Local proporciona un servidor web local que admite formatos de solicitud y respuesta de OpenAI, incluido el formato de la OpenAI Responses API, para que las aplicaciones construidas contra esa forma de API puedan integrarse con cambios mínimos.
¿Qué motor de inferencia usa Foundry Local?
Foundry Local usa ONNX Runtime para la inferencia, con detección automática de aceleración por hardware que elige el proveedor de ejecución óptimo — NPU, GPU o CPU — según el dispositivo.
¿Cuántas estrellas de GitHub tiene Foundry Local?
El repositorio de Foundry Local (github.com/microsoft/Foundry-Local) mostraba 2.541 estrellas al 5 de septiembre de 2026, según la verificación del directorio de este sitio. Comprueba el repositorio directamente para un recuento actual, ya que cambia con el tiempo.