أفضل أدوات ⁨RAG⁩ المحلية في ⁨2026⁩: ⁨Open WebUI⁩ و⁨LlamaIndex⁩ و⁨LangChain⁩

# 1. Ejecutar Open WebUI con Docker
docker run -d -p 3000:8080 \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  ghcr.io/open-webui/open-webui:latest

# 2. Abre http://localhost:3000
# 3. Haz clic en "+" junto al campo de mensaje → "Subir archivos"
# 4. Selecciona PDFs o archivos de texto
# 5. Haz preguntas -- Open WebUI recupera los chunks relevantes
# 6. El modelo responde basándose en los documentos, con citas

# 1. Instalar
pip install llama-index
pip install llama-index-embeddings-ollama  # usar embeddings de Ollama en local
pip install llama-index-vector-stores-chroma  # usar Chroma para almacenamiento

# 2. Pipeline RAG sencillo
from llama_index.core import SimpleDirectoryReader, VectorStoreIndex
from llama_index.embeddings.ollama import OllamaEmbedding

# Cargar documentos
documents = SimpleDirectoryReader("./documents").load_data()

# Crear índice con embeddings locales
embedding_model = OllamaEmbedding(model_name="nomic-embed-text")
index = VectorStoreIndex.from_documents(
  documents,
  embed_model=embedding_model
)

# Consulta
query_engine = index.as_query_engine()
response = query_engine.query("What does the document say about X?")
print(response)

# pip install langchain langchain-community langchain-chroma

from langchain.document_loaders import DirectoryLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.embeddings import OllamaEmbeddings
from langchain.vectorstores import Chroma
from langchain.chat_models import ChatOllama
from langchain.chains import RetrievalQA

# Cargar documentos
loader = DirectoryLoader("./documents")
docs = loader.load()

# Dividir en chunks
splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=100)
chunks = splitter.split_documents(docs)

# Crear embeddings y vector store
embeddings = OllamaEmbeddings(model="nomic-embed-text")
vectorstore = Chroma.from_documents(chunks, embeddings)

# Crear cadena QA
llm = ChatOllama(model="llama3.2:8b")
qa = RetrievalQA.from_chain_type(
  llm=llm,
  chain_type="stuff",
  retriever=vectorstore.as_retriever()
)

# Responder preguntas
result = qa.run("What does the document say about X?")
print(result)