Conclusiones clave
- AnythingLLM es el RAG integrado más completo: 10+ formatos (PDF, DOCX, TXT, MD, EPUB, sitios web, transcripciones de audio), modelos de embedding intercambiables, mejores citas, espacios de trabajo persistentes.
- LM Studio tiene la menor fricción: arrastra un PDF al chat, obtén una respuesta en 30 segundos. Ámbito de conversación, sin concepto de espacio de trabajo.
- Jan + extensión de Documentos es la opción open source: AGPL, cero telemetría, embeddings solo locales, ideal para flujos de trabajo legales, médicos o regulados.
- Las tres manejan documentos de 1.000 páginas en hardware con 16 GB de RAM en menos de 5 minutos de indexación.
- Los modelos de embedding por defecto (nomic-embed-text v1.5, all-MiniLM-L6-v2) son suficientes para la mayoría de los casos — solo AnythingLLM permite intercambiarlos sin salir de la app.
- Ninguna de las tres maneja PDFs escaneados (solo imagen) sin OCR externo — extrae el texto primero con Tesseract o una herramienta PDF.
- Ruta de escalado: cuando superes ~1.000 documentos, necesites búsqueda entre espacios de trabajo o fragmentación avanzada, pasa a un stack personalizado con Ollama + AnythingLLM Docker o PrivateGPT.
¿Cómo se comparan AnythingLLM, LM Studio y Jan + Documentos en 2026?
Probado en Apple M5 MacBook Pro (16 GB de memoria unificada) y un equipo de escritorio Windows 11 con NVIDIA RTX 4070 (12 GB VRAM, 32 GB de RAM del sistema). Conjunto de documentos idéntico: un PDF de investigación de 412 páginas, un contrato DOCX de 38 páginas, un manual técnico PDF de 1.047 páginas y 25 notas markdown (≈ 600 KB en total). Cada app emparejada con Llama 3.3 8B Q4_K_M como modelo de chat.
| App | Formatos | Tamaño máx. práctico | Modelo de embedding | Citas | Veredicto |
|---|---|---|---|---|---|
| AnythingLLM | PDF, DOCX, TXT, MD, EPUB, HTML, CSV, JSON, sitios web, audio (Whisper) | ~5.000 docs / ~50.000 páginas | Integrado (Native) o intercambia con Ollama / OpenAI / LM Studio | Por fragmento con nombre de archivo + página | La más completa — elige primero para bibliotecas |
| LM Studio | PDF, DOCX, TXT, MD | ~30 docs por chat / ~3.000 páginas | nomic-embed-text v1.5 (incluido, no intercambiable) | Mención de fuente en línea, sin números de página | La menos fricción — elige para Q&A puntual |
| Jan + Documentos | PDF, DOCX, TXT, MD | ~200 docs / ~10.000 páginas | all-MiniLM-L6-v2 (incluido, intercambiable vía extensión) | Por fragmento con nombre de archivo | La más privada — elige para AGPL / cumplimiento |
¿Cuál deberías elegir?
La elección correcta depende del tamaño de tu biblioteca de documentos, los formatos que manejas y cuánto valoras el código abierto. Usa este árbol de decisión:
| Tu situación | Elige |
|---|---|
| Tengo 1 PDF y una pregunta — quiero la respuesta en 60 segundos | LM Studio |
| Tengo una carpeta de 50–500 PDFs que quiero consultar repetidamente | AnythingLLM |
| Necesito EPUBs, sitios web o transcripciones de audio en el mismo espacio de trabajo | AnythingLLM |
| Trabajo con documentos legales o médicos — el código abierto es obligatorio | Jan + Documentos |
| Quiero intercambiar modelos de embedding para probar la calidad de recuperación | AnythingLLM |
| Tengo un portátil de 4 años con 8 GB de RAM | LM Studio (instalación mínima, espacio de trabajo más ligero) |
| Necesito citas por página para un trabajo académico | AnythingLLM |
| Quiero mantener el historial de chat y el índice de documentos separados por proyecto | AnythingLLM (los espacios de trabajo son de primer nivel) |
| Mi empresa bloquea binarios de código cerrado en la red | Jan + Documentos (AGPL, auditable) |
Cómo probamos estas 3 apps
Cada app fue instalada desde cero, alimentada con el mismo conjunto de documentos y evaluada con las mismas 12 consultas. Se utilizó el mismo modelo de chat (Llama 3.3 8B Q4_K_M, ≈ 4,9 GB) en cada app para aislar la calidad RAG de la calidad del chat.
- Hardware: Apple M5 MacBook Pro (16 GB de memoria unificada) para el recorrido macOS; escritorio Windows 11 con RTX 4070 (12 GB VRAM, 32 GB de RAM del sistema) para el recorrido Windows. Las pruebas se ejecutaron en ambos.
- Conjunto de documentos: PDF de artículo de investigación de 412 páginas (arquitectura transformer con figuras, tablas y ecuaciones), DOCX de contrato de 38 páginas (arrendamiento inmobiliario comercial, texto legal denso), PDF de manual técnico de 1.047 páginas (referencia de sistema de control industrial), 25 notas markdown (≈ 600 KB de actas de reuniones y especificaciones de proyectos).
- Embedding: cada app usó su modelo de embedding predeterminado salvo intercambio explícito. AnythingLLM "Native" usa por defecto un modelo de 384 dimensiones cercano a la calidad de all-MiniLM-L6-v2; LM Studio usa nomic-embed-text v1.5 (768 dimensiones); Jan incluye all-MiniLM-L6-v2 por defecto.
- Tipos de consulta: búsqueda factual («¿Cuál es el plazo de aviso para la rescisión del contrato?»), razonamiento multi-salto («¿Qué secciones del manual cubren tanto los enclavamientos de seguridad como la parada de emergencia?»), precisión de citas («Cita la frase exacta sobre token-mixing»), resumen («Resume el capítulo 4 en 5 puntos») y detección de contradicciones («¿El contrato se contradice sobre la escala de renta?»).
- Qué medimos: tiempo hasta la primera respuesta tras cargar documentos (indexación + primera respuesta), recuperación en un conjunto de 12 consultas de referencia, exactitud de citas (nombre de archivo del fragmento + página cuando corresponde) y comportamiento con el manual de 1.047 páginas (la prueba de estrés).
📌Note: Las tres apps son 100% locales una vez descargados los modelos. Ningún prompt, fragmento de documento ni vector de embedding abandona el dispositivo durante estas pruebas. El acceso a la red fue deshabilitado a mitad de prueba en cada app para confirmar el comportamiento offline.
AnythingLLM: el RAG integrado más completo
AnythingLLM ofrece el chat con documentos como función de primer nivel, no como complemento. Los espacios de trabajo mantienen un índice de documentos persistente; cada espacio de trabajo es independiente, así puedes mantener «Contratos legales» separado de «Artículos de investigación» sin contaminación cruzada.
- Instalación: descarga la app de escritorio desde anythingllm.com (instaladores firmados para macOS, Windows, Linux). ~430 MB. No requiere permisos de administrador en macOS o Linux.
- Formatos de archivo: PDF, DOCX, TXT, MD, EPUB, HTML, CSV, JSON. Los archivos de audio (MP3, WAV, M4A) se transcriben automáticamente mediante Whisper incluido. Los sitios web se extraen con un scraper integrado.
- Modelo de embedding: "Native" (un modelo pequeño incluido cercano a la calidad de all-MiniLM-L6-v2) por defecto. Intercambia a nomic-embed-text vía Ollama, BAAI/bge-small vía LM Studio u OpenAI text-embedding-3-small con un clic en Ajustes → Embedder.
- Control de fragmentos: el tamaño del fragmento (por defecto 1.000 caracteres) y el solapamiento (por defecto 20) están disponibles en los ajustes del espacio de trabajo. El botón "Re-embed-all" reconstruye el índice tras los cambios.
- Citas: cada respuesta referencia los fragmentos usados, con nombre de archivo y página (PDF), nombre de archivo y sección (MD) o solo nombre de archivo (TXT). Haz clic en una cita para abrir el fragmento fuente en un panel lateral.
- Rendimiento: indexó el manual completo de 1.047 páginas + artículo de 412 páginas + contrato de 38 páginas + 25 notas markdown en 4 min 12 s en RTX 4070, 5 min 38 s en M5. Primera respuesta: ~3 s en ambos.
- Backend LLM: usa el runtime Ollama incluido por defecto, o apunta a LM Studio, servidor llama.cpp, URL compatible con OpenAI o cualquier proveedor en la nube.
💡Tip: Crea un espacio de trabajo por proyecto (por ejemplo, «Contratos Q3», «Fuentes de tesis», «Manual de incorporación»). Cada espacio de trabajo tiene su propio historial de chat e índice de embedding, de modo que el contexto nunca se mezcla entre proyectos.
LM Studio: el chat con documentos de menor fricción
LM Studio añadió los adjuntos de documentos en el chat en 2025. Arrastra un PDF a una ventana de chat abierta y en segundos puedes hacer preguntas sobre él — sin espacio de trabajo, sin configuración, sin ajuste de embedding.
- Instalación: descarga desde lmstudio.ai. ~450 MB, instaladores firmados para macOS, Windows, Linux. La misma instalación usada para el chat — sin plugin RAG separado.
- Formatos de archivo: PDF, DOCX, TXT, MD. Sin EPUB, HTML ni audio.
- Modelo de embedding: nomic-embed-text v1.5 (768 dimensiones) incluido. No es intercambiable desde la interfaz en mayo 2026 — para elegir el modelo de embedding, usa AnythingLLM.
- Control de fragmentos: oculto en la interfaz. El tamaño del fragmento, el solapamiento y el top-K se ajustan automáticamente según el tamaño del documento.
- Citas: el modelo recibe los fragmentos como contexto y recibe instrucciones de citar el nombre del archivo fuente. La calidad de las citas depende del modelo de chat — Llama 3.3 8B y superiores citan de forma fiable; los modelos más pequeños a veces omiten las citas.
- Rendimiento: indexó un único artículo de 412 páginas en 38 s en M5, 24 s en RTX 4070. Primera respuesta: 2–3 s. Límite práctico antes de lentitud: ~30 documentos o ~3.000 páginas por chat.
- Backend LLM: usa el mismo modelo de chat seleccionado para la conversación — el RAG ocurre de forma transparente cuando se adjuntan documentos.
📌Note: Los adjuntos de documentos de LM Studio tienen ámbito de conversación, no de espacio de trabajo. Inicia un chat nuevo y tus documentos anteriores desaparecen. Esto es una ventaja para el Q&A puntual y una limitación para las bibliotecas de investigación continua.
Jan + extensión de Documentos: la opción open source
Jan es la única de las tres con código fuente completamente auditable (AGPL). La extensión de Documentos añade RAG sin comprometer la postura de cero telemetría — los embeddings se ejecutan localmente y los fragmentos de documentos nunca abandonan el dispositivo.
- Instalación: descarga Jan desde jan.ai (~380 MB). Luego activa la extensión de Documentos desde la pestaña Hub dentro de la app. La extensión es del equipo de Jan, no de terceros.
- Formatos de archivo: PDF, DOCX, TXT, MD. La incorporación de nuevos formatos está en el roadmap público a mayo 2026.
- Modelo de embedding: all-MiniLM-L6-v2 (384 dimensiones) incluido. Intercambiable vía los ajustes de la extensión a BAAI/bge-small-en-v1.5 o cualquier GGUF de sentence-transformers.
- Control de fragmentos: tamaño del fragmento y solapamiento disponibles en los ajustes de la extensión. El botón de reindexar reconstruye el almacén LanceDB local.
- Citas: citas por fragmento con nombre de archivo. Sin números de página en mayo 2026 — el issue #1184 en el GitHub de Jan rastrea esta solicitud de función.
- Rendimiento: indexó el corpus de prueba completo en 6 min 04 s en M5, 5 min 12 s en RTX 4070. Primera respuesta: 3–4 s. Límite práctico: ~200 documentos.
- Backend LLM: usa el runtime llama.cpp integrado de Jan. El mismo modelo cargado para el chat se usa para la síntesis RAG.
💡Tip: Para el cumplimiento del GDPR de la UE, industrias reguladas o cualquier entorno donde la auditabilidad del código fuente sea obligatoria, Jan es la única opción de las tres. AnythingLLM es open source en GitHub pero incluye telemetría de código cerrado en las builds oficiales; LM Studio es completamente propietario.
Consultas de ejemplo y qué devolvió cada app
Mismos documentos, mismo modelo de chat (Llama 3.3 8B Q4_K_M), mismos prompts. Las respuestas literales se acortan donde se indica. Cada fila muestra si la app recuperó los fragmentos correctos y qué respondió.
| Consulta | AnythingLLM | LM Studio | Jan + Documentos |
|---|---|---|---|
| ¿Cuál es el plazo de aviso para la rescisión del contrato? | ✅ «60 días de aviso por escrito» con cita [contrato.docx, página 12] | ✅ «60 días de aviso por escrito» — cita: contrato.docx | ✅ «60 días de aviso por escrito» — cita: contrato.docx |
| Cita la frase exacta sobre token-mixing en el artículo | ✅ Cita literal con [research.pdf, página 4] | ✅ Cita literal, atribución a research.pdf (sin página) | ⚠️ Cita parafraseada, atribución a research.pdf |
| ¿Qué secciones del manual cubren tanto los enclavamientos de seguridad COMO la parada de emergencia? | ✅ «Sección 4.2 (Enclavamientos) y Sección 7.1 (Parada de emergencia)» con citas | ⚠️ Solo devolvió la Sección 4.2 — perdió el segundo salto | ⚠️ Solo devolvió la Sección 7.1 — perdió el multi-salto |
| Resume el capítulo 4 en 5 puntos | ✅ 5 puntos precisos, citas en cada uno | ✅ 5 puntos precisos, bloque de cita único al final | ✅ 5 puntos precisos, cita solo en el primer punto |
| ¿El contrato se contradice sobre la escala de renta? | ✅ «Sí — la página 8 dice indexado al IPC, la página 14 dice 3% fijo» | ✅ «Sí — se mencionan dos métodos de escala diferentes» | ⚠️ «No se encontró contradicción» — no pudo mostrar la página 14 |
📌Note: AnythingLLM lideró en las consultas multi-salto y de contradicción porque su configuración de recuperación extrae más fragmentos por defecto (top-K = 6) que LM Studio (top-K = 4) y Jan (top-K = 4). En búsquedas factuales simples, las tres fueron prácticamente equivalentes.
¿Qué tan precisas son las citas?
La calidad de las citas es el mayor diferenciador entre las tres apps. AnythingLLM es la única que ofrece citas por fragmento con nombre de archivo + página en mayo 2026. Las otras dos citan solo por nombre de archivo, lo que es útil pero insuficiente para trabajos académicos o legales.
- AnythingLLM: cada respuesta referencia los fragmentos usados. El formato es `[nombre de archivo, página X]
para PDFs,[nombre de archivo, sección]` para markdown. Haz clic para abrir el fragmento en un panel lateral y verificarlo. - LM Studio: las citas son menciones en línea en la respuesta del chat («Según research.pdf...»). Sin números de página, sin panel de verificación interactivo. La fiabilidad depende del modelo de chat — Llama 3.3 8B cita de forma fiable; Phi-4 Mini a veces omite citas.
- Jan + Documentos: citas por fragmento con nombre de archivo. Sin números de página. Los fragmentos citados son visibles en el panel de la extensión.
- Coste de verificación: AnythingLLM permite verificar una cita en 2 clics; LM Studio y Jan requieren abrir el PDF fuente y buscar. Para un manual de 1.000 páginas, esto importa.
- Citas alucinadas: las tres apps citan ocasionalmente un nombre de archivo cuando el fragmento relevante no se recuperó realmente. Frecuencia en nuestra prueba de 12 consultas: AnythingLLM 0/12, LM Studio 1/12 (Phi-4 Mini), Jan 1/12. Verifica siempre las afirmaciones de alto riesgo.
Cómo maneja cada app documentos de 1.000+ páginas
El manual técnico de 1.047 páginas fue la prueba de estrés. Las tres apps lo cargaron e indexaron; las diferencias surgieron en el tiempo de recuperación y la ergonomía del espacio de trabajo.
| Comportamiento | AnythingLLM | LM Studio | Jan + Documentos |
|---|---|---|---|
| Tiempo de indexación (M5) | 4 min 12 s | 2 min 47 s | 6 min 04 s |
| RAM durante la indexación | ~3,2 GB | ~2,4 GB | ~2,8 GB |
| Tamaño del índice en disco | ~210 MB | ~95 MB | ~140 MB |
| Latencia de primera consulta (en frío) | 3,1 s | 2,2 s | 3,8 s |
| Límite práctico de documentos | ~5.000 | ~30 por chat | ~200 |
| Recuperación multi-salto (prueba de 12 consultas) | 11/12 | 8/12 | 7/12 |
⚠️Warning: LM Studio es rápido con un único documento grande pero no escala a bibliotecas. El índice con ámbito de conversación significa que un chat nuevo empieza desde cero — útil para preguntas puntuales, problemático para investigación continua. Para 50+ documentos, cambia a AnythingLLM.
¿Cuándo deberías superar el RAG integrado?
El RAG integrado es la herramienta correcta hasta que ocurra una de estas tres cosas: tu biblioteca supera ~1.000 documentos, necesitas control granular de la estrategia de fragmentación, o necesitas búsqueda entre espacios de trabajo. En ese momento, escala.
- Más de 1.000 documentos: AnythingLLM maneja hasta ~5.000 documentos en un único espacio de trabajo antes de que la latencia de recuperación se vuelva perceptible. Más allá, migra a un stack personalizado con Ollama + AnythingLLM Docker y una base de datos vectorial dedicada (Qdrant, Weaviate o Postgres + pgvector).
- Necesitas una estrategia de fragmentación personalizada: las apps integradas usan tamaños de fragmento fijos (~1.000 caracteres con ~20 de solapamiento). Para fragmentación específica del dominio (semántica, jerárquica, padre-hijo), usa un stack personalizado con LangChain o LlamaIndex.
- Necesitas búsqueda entre espacios de trabajo / fuentes: los espacios de trabajo de AnythingLLM están aislados por diseño. Si necesitas que una sola consulta abarque «Contratos + Email + exportación de Slack + Notion», construye un RAG personalizado con un almacén vectorial unificado.
- Necesitas control de acceso granular: las apps integradas asumen un único usuario. Para RAG de equipo con permisos basados en roles, despliega AnythingLLM Docker (modo multiusuario) o PrivateGPT.
- Necesitas OCR para PDFs escaneados: ninguna de las tres maneja PDFs solo de imagen. Preprocesa con Tesseract o pdf2image + Tesseract, o migra a un stack que incluya Unstructured.io.
- Despliegue en producción: las apps integradas son aplicaciones de escritorio, no servidores. Para RAG en producción con acceso a API, despliega AnythingLLM Docker, PrivateGPT u Open WebUI con el plugin RAG adecuado.
💡Tip: La ruta de escalado que preserva tu trabajo: AnythingLLM Desktop → AnythingLLM Docker (multiusuario, mismo formato de datos) → stack personalizado con Ollama + Qdrant + LlamaIndex. Cada paso conserva tu corpus de documentos y evita la reindexación.
Preguntas frecuentes
¿Puedo chatear con 1.000+ PDFs en estas apps?
AnythingLLM maneja hasta ~5.000 documentos por espacio de trabajo antes de que la latencia de recuperación se vuelva perceptible. Jan + Documentos maneja ~200 documentos de forma fiable. LM Studio tiene ámbito de conversación y es práctico para ~30 documentos por chat. Para bibliotecas de 1.000+ documentos, AnythingLLM es la única opción integrada que funciona sin escalar a un stack personalizado.
¿Estas apps soportan DOCX y Excel?
Las tres soportan DOCX (Microsoft Word). Excel (XLSX) no está soportado directamente por ninguna de las tres en mayo 2026 — conviértelo primero a CSV (AnythingLLM acepta CSV de forma nativa) o copia y pega en un archivo markdown. AnythingLLM también soporta EPUB, HTML, JSON, audio (transcripción con Whisper) y sitios web.
¿Dónde se almacenan mis documentos?
Las tres almacenan documentos e índices de embedding en tu disco local. AnythingLLM guarda en ~/.anythingllm/ (macOS/Linux) o %APPDATA%/AnythingLLM (Windows). LM Studio guarda en ~/.cache/lm-studio/ o %APPDATA%/LM Studio. Jan guarda en ~/jan/. Ninguna de las tres sube tus documentos a ningún lugar — inferencia local e indexación local en todos los casos.
¿Puedo eliminar documentos de la memoria de la app?
Sí en las tres. AnythingLLM tiene eliminación por documento + reindexado en la interfaz del espacio de trabajo. LM Studio: desvincula el documento del chat o elimina el chat. Jan: elimina desde el panel de la extensión de Documentos y haz clic en reindexar. Tras la eliminación, los fragmentos de embedding se eliminan del almacén vectorial local en el siguiente reindexado.
¿Qué tan precisas son las citas?
AnythingLLM ofrece citas por fragmento con nombre de archivo y página (PDFs) — suficientemente precisas para trabajos académicos si se verifican. LM Studio cita solo por nombre de archivo; la fiabilidad depende del modelo de chat utilizado (Llama 3.3 8B y superiores citan de forma fiable; Phi-4 Mini a veces omite citas). Jan cita por fragmento con nombre de archivo, sin números de página. En una prueba de 12 consultas, las citas alucinadas fueron raras (0/12 AnythingLLM, 1/12 LM Studio, 1/12 Jan) — verifica siempre las afirmaciones de alto riesgo abriendo la fuente.
¿El RAG integrado funciona sin conexión?
Sí. Tras instalar la app y descargar al menos un modelo de chat y un modelo de embedding, las tres apps funcionan completamente sin conexión. La indexación de documentos ocurre localmente; las consultas llegan al almacén vectorial local y al LLM local. Lo confirmamos deshabilitando la red a mitad de prueba en cada app — las tres continuaron respondiendo consultas con normalidad.
¿Puedo compartir una base de datos de documentos entre dispositivos?
AnythingLLM almacena sus espacios de trabajo en una carpeta portátil que puedes copiar entre equipos (~/.anythingllm/storage/). Los índices de documentos de LM Studio tienen ámbito de conversación y no están diseñados para sincronización. Jan + Documentos guarda en ~/jan/ pero el formato LanceDB es sensible a las diferencias de versiones entre instalaciones de Jan. Para múltiples dispositivos, la ruta más limpia es AnythingLLM Docker en un servidor doméstico con todos los dispositivos apuntando a la misma instancia.
¿El RAG integrado maneja PDFs escaneados (OCR)?
Ninguna de las tres apps maneja PDFs escaneados solo de imagen en mayo 2026. Extraen texto mediante capas de texto PDF, por lo que un PDF escaneado sin capa de texto devuelve cero fragmentos. Preprocesa con Tesseract OCR (gratuito) o una herramienta como ocrmypdf para añadir una capa de texto, luego carga el PDF procesado con OCR en la app. AnythingLLM tiene una solicitud de función abierta para la integración de Tesseract.
¿Cuál es el tamaño máximo de documento antes de que el RAG integrado se ralentice?
En hardware con 16 GB de RAM, AnythingLLM se mantiene ágil hasta ~5.000 documentos o ~50.000 páginas por espacio de trabajo. El límite práctico de LM Studio es ~30 documentos por chat (~3.000 páginas). Jan + Documentos maneja ~200 documentos de forma fiable. Más allá de estos límites, el tiempo de indexación crece linealmente y la latencia de recuperación en consultas en frío puede llegar a 5–10 segundos; esa es la señal para escalar a un stack RAG personalizado.
¿Puedo usar estas apps para documentos legales o médicos sensibles?
Las tres funcionan completamente sin conexión una vez instaladas y nunca transmiten el contenido de los documentos. Para flujos de trabajo regulados (HIPAA, GDPR, secreto profesional), Jan + Documentos es la opción más sólida porque todo el stack es de código abierto (AGPL) y auditable, con cero telemetría por defecto. AnythingLLM también es una opción defendible en entornos auditados usando la build Docker de código abierto (evitando la telemetría del instalador de escritorio). LM Studio es completamente propietario — confirma con tu equipo de cumplimiento antes de usarlo con datos regulados.