IA local atrás de um firewall: guia de implantação offline 2026

Lista de verificação prévia — Baixe antes de ficar offline

1. 1
   Binário do Ollama — baixe de ollama.com para o seu sistema operacional (Linux x86_64, macOS arm64, Windows). Versão ≥0.3.0 recomendada.
2. 2
   Arquivo GGUF do modelo — baixe via ollama pull qwen2.5:14b-instruct-q4_K_M na máquina conectada. Os modelos são armazenados em cache em ~/.ollama/models/.
3. 3
   Tokenizador + template de chat — o Ollama os inclui junto com o manifesto do modelo; nenhum download separado é necessário se você usar o Ollama.
4. 4
   Binário do llama.cpp (se usar llama.cpp) — baixe uma versão pré-compilada de github.com/ggerganov/llama.cpp/releases.
5. 5
   Modelo de embedding (para RAG offline) — ollama pull nomic-embed-text ou mxbai-embed-large.
6. 6
   Binário de banco de dados vetorial (para RAG offline) — Chroma standalone, binário do Qdrant ou SQLite+sqlite-vss (nenhuma instalação de Python necessária).
7. 7
   Wheels de Python (se usar ferramentas Python) — baixe os arquivos .whl com pip download usando --no-deps e transfira-os.
8. 8
   Hash de verificação — execute sha256sum em cada arquivo GGUF antes da transferência para detectar corrupção.

Comandos de download para a máquina conectada

• ollama pull qwen2.5:14b-instruct-q4_K_M — 9,5 GB, padrão recomendado
• ollama pull qwen2.5:7b-instruct-q4_K_M — 5,5 GB, para máquinas com menos VRAM
• ollama pull nomic-embed-text — 274 MB, para embeddings em RAG offline
• ollama pull deepseek-r1:7b — 5,5 GB, se matemática/raciocínio for o caso de uso principal
• Local dos arquivos do modelo: ~/.ollama/models/ no Linux/macOS, %USERPROFILE%\.ollama\models no Windows
• Para llama.cpp: baixe o GGUF diretamente do HuggingFace e verifique o SHA256 antes da transferência

Fluxo de trabalho air-gap com Ollama

1. 1
   Copie o diretório completo ~/.ollama/ da máquina conectada para o mesmo caminho no host offline.
2. 2
   Instale o binário do Ollama: chmod +x ollama && sudo mv ollama /usr/local/bin/
3. 3
   Defina o diretório do modelo: export OLLAMA_MODELS=/caminho/para/offline/ollama/models
4. 4
   Inicie o servidor: ollama serve — verifique nos logs que ele inicia sem chamadas de rede.
5. 5
   Teste offline: ollama run qwen2.5:14b — deve responder imediatamente sem acessar nenhuma URL externa.
6. 6
   Vincule a todas as interfaces para acesso LAN: OLLAMA_HOST=0.0.0.0:11434 ollama serve

Fluxo de trabalho air-gap com llama.cpp

• Transfira o binário pré-compilado e o seu arquivo GGUF para a máquina offline.
• Execute: ./llama-server -m ./qwen2.5-14b-instruct-q4_K_M.gguf --port 8080
• A flag --no-mmap desativa a E/S com memória mapeada se estiver executando a partir de um compartilhamento de rede.
• Use --n-gpu-layers 35 para descarregar camadas para a GPU na NVIDIA; --n-gpu-layers -1 descarrega tudo no Apple Silicon.
• API compatível com OpenAI disponível em http://localhost:8080/v1 — substituição direta para qualquer SDK da OpenAI.

Dimensionamento de NAS para bibliotecas de modelos offline

• NAS recomendado para armazenamento de modelos: Synology DS923+ com 4 discos de 4 TB em RAID 5 (~12 TB utilizáveis)
• Mínimo para uma biblioteca de 2-3 modelos: SSD de 2 TB (um disco portátil é suficiente para implantações em uma única máquina)
• Monte o NAS por NFS no servidor de inferência; defina OLLAMA_MODELS com o caminho NFS

Conformidade de residência de dados (LGPD/ANPD)

• Residência de dados: A inferência local significa que os dados nunca saem do seu hardware. Isso atende aos requisitos de residência de dados da maioria das normas setoriais e ao princípio de minimização da LGPD, independentemente da origem do modelo.
• Procedência do modelo: Documentar o fornecedor e a versão do modelo facilita as auditorias internas de conformidade. Qwen3 (Alibaba) e DeepSeek (DeepSeek AI) são exemplos de modelos com cadeia de custódia documentada.
• Serviços de IA voltados ao público: Se a sua implantação for acessível por usuários externos (não for puramente interna), verifique as obrigações de comunicação aplicáveis sob a LGPD e a ANPD. Implantações internas e offline usadas apenas por funcionários costumam estar fora do âmbito de aplicação.
• Verificação do isolamento de rede: Use iptables ou uma regra de firewall para confirmar que não há conexões de saída do servidor de inferência — documente isso para os registros de conformidade.
• Registros de auditoria: O Ollama não registra os pares prompt-resposta por padrão; adicione middleware se a política interna de governança de dados exigir. Armazene-os localmente, nunca na nuvem.

Configuração de RAG offline

1. 1
   Modelo de embedding: Execute ollama pull nomic-embed-text na máquina conectada. Transfira-o junto com o restante do diretório de modelos do Ollama.
2. 2
   Banco de dados vetorial: O Chroma pode ser executado como um binário standalone (sem necessidade de Python); como alternativa, use o binário do Qdrant ou SQLite com a extensão sqlite-vss.
3. 3
   Ingestão de documentos: Use LangChain ou LlamaIndex offline (instale os wheels antes de ficar offline). Aponte o carregador de documentos para arquivos locais — sem rastreamento web.
4. 4
   Fluxo de consulta: Documento → embedding via nomic-embed-text local → recupera os top-k fragmentos do banco de dados vetorial local → passa para o Qwen3 local → resposta. Zero chamadas externas.
5. 5
   Testes: Confirme com tcpdump -i any -n port 443 que nenhum tráfego HTTPS é gerado durante um ciclo completo de consulta RAG.

Perguntas frequentes

Leituras relacionadas

• RAG local para dados empresariais privados — Configuração completa de um pipeline RAG com ferramentas de código aberto
• Melhor armazenamento NAS para modelos de IA local 2026 — Comparativo de hardware NAS para bibliotecas de modelos
• Guia de implantação local do Qwen 2026 — Níveis de hardware para todas as variantes do Qwen3