Skip to main content
PromptQuorum
Home/Local LLMs/On-Prem Air-Gapped Local LLMs: Despliegue Aislado para Entornos Clasificados
Enterprise

On-Prem Air-Gapped Local LLMs: Despliegue Aislado para Entornos Clasificados

·12 min de lectura·Por Hans Kuepper · Fundador de PromptQuorum, herramienta de despacho multi-modelo · PromptQuorum

El despliegue air-gapped significa que la infraestructura del LLM está completamente aislada de internet. Sin conexión a internet, sin llamadas a API externas, sin riesgo de exfiltración de datos. esto es el estándar para gobiernos, militares e instituciones financieras que manejan datos clasificados o altamente sensibles.

El despliegue air-gapped significa que la infraestructura del LLM está completamente aislada de internet. Sin conexión a internet, sin llamadas a API externas, sin riesgo de exfiltración de datos. esto es el estándar para gobiernos, militares e instituciones financieras que manejan datos clasificados o altamente sensibles.

On-Prem Air-Gapped Local LLMs: Despliegue Aislado para Entornos Clasificados

Key Takeaways

  • Air-gapped = completamente aislado de internet. Cero conectividad de red con sistemas externos.
  • Caso de uso: gobierno (clasificado), militar (escenarios de guerra), finanzas (alta seguridad), salud (HIPAA ultrasensible).
  • Desafío: no se pueden actualizar automáticamente modelos, embeddings ni dependencias. Requiere procedimientos manuales.
  • Arquitectura: hardware dedicado, almacenamiento cifrado, acceso de usuario restringido, seguridad física.
  • Aislamiento de red: firewalls, appliances air-gap y segmentación de red previenen cualquier comunicación externa.
  • Gestión de modelos: transfiere modelos solo por USB, medios seguros o redes internas; sin acceso a la nube.
  • Actualizaciones: proceso manual -- prueba las actualizaciones offline primero, luego despliégalas por canales seguros.
  • Air-gapped es una práctica estándar para agencias gubernamentales y contratistas de defensa que manejan datos clasificados.

El despliegue air-gapped implica cero conectividad de red entre la infraestructura del LLM e internet o cualquier sistema externo -- los modelos y las actualizaciones se transfieren solo mediante medios físicos o redes internas aisladas.

Un servidor de IA air-gapped está completamente desconectado de internet, como un ordenador sin cable de red ni WiFi. Es el nivel más alto de protección de datos disponible: nada puede ser hackeado remotamente porque no existe conexión remota que atacar. La contrapartida es que actualizar el modelo de IA requiere trabajo manual en lugar de una descarga automática.

¿Qué significa air-gapped?

La infraestructura air-gapped no tiene conexión de red a internet ni a ningún sistema externo. Todos los datos y la computación permanecen en hardware aislado.

Aislamiento absoluto: sin WiFi, sin Ethernet a redes externas, sin conexiones USB a dispositivos conectados a internet.

Los datos nunca salen: la inferencia ocurre localmente, los resultados se quedan localmente.

Las actualizaciones son manuales: no se pueden descargar actualizaciones de modelos automáticamente. Las actualizaciones requieren medios físicos (USB, tarjeta SD) o transferencia por red interna.

¿Cómo es una arquitectura air-gapped típica?

Una sola máquina o un pequeño clúster, completamente aislado, con acceso físico restringido.

  1. 1
    Hardware dedicado: servidores usados solo para inferencia de LLM, nada más.
  2. 2
    Red aislada: sin conexión a la red corporativa ni a internet. Como máximo, una VLAN separada.
  3. 3
    Almacenamiento cifrado: todos los archivos de modelo, datos y logs cifrados en reposo.
  4. 4
    Acceso controlado: solo el personal autorizado puede acceder. Se requiere autenticación multifactor.
  5. 5
    Seguridad física: sala de servidores cerrada con llave, vigilancia, registros de acceso.
  6. 6
    Sin medios extraíbles: puertos USB deshabilitados, unidades CD/DVD eliminadas.
  7. 7
    Monitoreo local: los logs permanecen en el sistema, no se envían a servicios de monitoreo externos.

¿Cómo se aíslan las redes de las conexiones externas?

El aislamiento se aplica en múltiples niveles:

  • Físico: hardware de red separado (switch, router) para la infraestructura air-gapped.
  • Firewall: tráfico entrante y saliente bloqueado. Sin excepciones para servicios en la nube, NTP ni DNS hacia servidores externos.
  • Software: firewalls a nivel de host (iptables, Windows Firewall) como control secundario.
  • Monitoreo: el tráfico de red se audita. Cualquier intento de conexión externa se registra y marca.

¿Cómo se gestionan los modelos en entornos air-gapped?

Las actualizaciones de modelos son manuales y requieren transferencia de medios físicos o procesos internos seguros.

  1. 1
    Descarga el modelo en una máquina conectada a internet (entorno separado y no clasificado).
  2. 2
    Verifica la integridad del modelo (checksum, firma digital).
  3. 3
    Transfiere al sistema air-gapped mediante USB cifrado o servidor de archivos interno.
  4. 4
    Validación: ejecuta pruebas para asegurar que la integridad del modelo no se comprometió durante la transferencia.
  5. 5
    Despliegue: carga el modelo en el motor de inferencia.
  6. 6
    Documentación: registra qué modelos se despliegan, versiones y fechas.

¿Cómo se gestionan las actualizaciones y los parches?

Las actualizaciones de seguridad y de modelos son manuales:

  • Actualizaciones de modelos: sigue el proceso anterior. Programa actualizaciones trimestralmente o anualmente.
  • Parches del SO: prueba primero en un entorno de staging aislado, luego despliega en producción.
  • Dependencias: evalúa las versiones nuevas con cuidado. Los sistemas air-gapped ejecutan versiones más antiguas por más tiempo.
  • Sin actualizaciones automáticas: deshabilita las actualizaciones automáticas por completo. Todas las actualizaciones son controladas, documentadas y auditadas.

¿Cómo se garantiza la seguridad en sistemas air-gapped?

Air-gapped es inherentemente más seguro (sin ataques externos), pero surgen nuevos riesgos:

  • Amenazas internas: los empleados con acceso podrían copiar datos por USB. Se requiere integridad de dos personas.
  • Ataques a la cadena de suministro: modelos o dependencias comprometidos durante la transferencia. Verifica checksums y firmas digitales.
  • Robo físico: modelos y datos que valen millones. Se requieren sala cerrada, vigilancia y detección de intrusos.
  • Ingeniería social: "Confía en mí, necesito actualizar el modelo." Se requieren procesos formales de control de cambios.
  • Brechas de registro: si los logs no se auditan, nadie detecta la actividad interna. Se requiere auditoría externa regular de logs.

Errores comunes en el despliegue air-gapped

  • Aislamiento incompleto: dejar un puerto abierto, una tarjeta inalámbrica habilitada o permitir dispositivos USB anula el air-gapping. Audita rigurosamente.
  • Sin control de cambios: las actualizaciones de modelos ocurren de forma informal, sin documentación. Lleva a la pérdida de conocimiento sobre qué versión está desplegada.
  • Mala estrategia de respaldo: los sistemas air-gapped necesitan almacenamiento redundante y copias de seguridad fuera del sitio. Pero las copias de seguridad también deben ser air-gapped.
  • Registro insuficiente: los sistemas air-gapped requieren auditoría exhaustiva (quién accedió a qué y cuándo). Sin logs, las brechas no se detectan.
  • Confiar solo en la seguridad física: la seguridad requiere múltiples capas: aislamiento, cifrado, control de acceso y auditoría, no solo puertas con llave.

Preguntas frecuentes sobre sistemas air-gapped

¿Cómo actualizamos los modelos en un sistema air-gapped?

De forma manual mediante USB cifrado, o a través de una red segura interna aislada de internet. Todas las actualizaciones requieren aprobación del control de cambios y registros de auditoría.

¿Podemos usar copias de seguridad en la nube para sistemas air-gapped?

No. Las copias de seguridad en la nube requieren conexión a internet (lo que anula el air-gapping). Usa copias de seguridad físicas (discos duros cifrados) almacenadas en una instalación segura separada.

¿Es air-gapped realmente seguro contra todos los ataques?

En su mayoría, pero las amenazas internas persisten. Air-gapped es seguro contra ataques remotos, pero el acceso físico o el acceso interno pueden comprometerlo.

¿Cuánto cuesta un despliegue air-gapped?

El hardware cuesta entre $50k y $500k (no mucho más que un despliegue on-prem regular). Los costos operativos (seguridad, auditoría, formación) son entre 5 y 10 veces más altos debido a los procesos manuales.

¿Podemos usar herramientas estándar (Ollama, vLLM) en entornos air-gapped?

Sí. Ambas herramientas funcionan sin internet. Se despliegan una vez y no necesitan conectividad a internet. Asegúrate de que todas las dependencias estén instaladas offline.

¿Qué pasa si necesitamos cumplir con el RGPD pero no necesitamos air-gapping completo?

Para cargas de trabajo donde el air-gapping no es necesario pero sí el RGPD, las opciones de GPU en la nube conformes con la UE → (Hetzner, Scaleway, OVHcloud) ofrecen residencia de datos en la UE sin la complejidad del aislamiento.

Fuentes

  • NIST Cybersecurity Framework -- nist.gov/cyberframework
  • DoD Data Management -- defense.gov/News/Releases/
  • Guías de seguridad air-gap -- ietf.org (documentos RFC sobre aislamiento de red)

Nota sobre hechos de terceros

Este artículo hace referencia a modelos de IA, benchmarks, precios y licencias de terceros. El panorama de la IA cambia rápidamente. Las puntuaciones de benchmark, los términos de licencia, los nombres de modelos y los precios de API pueden cambiar entre el momento en que se escribió y cuando usted lo lee. Antes de tomar decisiones de despliegue o cumplimiento basadas en este artículo, verifique las cifras actuales en la fuente oficial de cada proveedor: tarjetas de modelos de Hugging Face para licencias y benchmarks, sitios web de proveedores para precios de API y EUR-Lex para el texto actualizado del RGPD y la Ley de IA de la UE.

Run PromptQuorum with a local LLM, your own API keys, or both — you pick the backend.

Download the PromptQuorum Beta →

← Back to Local LLMs