Sistema RAG: IA privada con los documentos de tu empresa.
Montamos en tus servidores un asistente que responde a las preguntas de tu equipo con tus manuales, contratos o tickets, y que cita la página de la que saca cada respuesta. Usamos Docling para leer bien los PDF, con sus tablas y columnas, y ningún documento sale de tu red.
Qué es RAG
RAG, de retrieval augmented generation o generación aumentada por recuperación, es una forma de usar un modelo de lenguaje en la que el sistema, antes de responder, busca en tus documentos los fragmentos relacionados con la pregunta y se los pasa al modelo. El modelo redacta con ese texto delante en lugar de tirar de lo que aprendió al entrenarse, y por eso puede citar de dónde saca cada dato. Tampoco hace falta reentrenarlo: cuando cambia un documento, basta con volver a indexarlo.
Un asistente responde tan bien como lee tus documentos.
Si un PDF se convierte en texto plano, las tablas pierden las columnas, los encabezados se mezclan con el cuerpo y una cifra acaba pegada a la fila equivocada. El modelo no lo nota y responde con seguridad sobre un dato que ya le llegó roto.
Docling reconoce la estructura de cada página (títulos, tablas, listas, figuras y orden de lectura) y la convierte en Markdown o JSON que la conserva. Así cada fragmento que se guarda tiene sentido por sí solo y la respuesta puede señalar de dónde sale.
Qué hace Docling
Lee PDF, Word, PowerPoint, Excel, HTML e imágenes escaneadas, y entrega un documento estructurado listo para trocear e indexar con LlamaIndex o LangChain. Es código abierto, con licencia MIT, y una vez descargados sus modelos funciona sin conexión, así que los documentos no salen de tus máquinas.
Para qué lo usan los equipos
Cada área pregunta sobre sus propios documentos y cada persona solo recibe respuestas de lo que ya podía abrir.
Soporte técnico ¿Qué código de error da el equipo cuando falla el sensor de presión?
Responde con el manual del fabricante, la página exacta y los tickets en los que ya se resolvió algo parecido.
Recursos humanos ¿Cuántos días de permiso hay por mudanza?
Responde con el convenio y las políticas internas, sin que nadie tenga que rebuscar en la intranet.
Jurídico y compras ¿Este proveedor tiene penalización por retraso en la entrega?
Busca en su contrato y cita la cláusula.
Ingeniería y calidad ¿Qué tolerancia pide la especificación para esta pieza?
Responde con la versión vigente del documento y no con una antigua, porque cada uno se indexa con su versión.
Ejemplo paso a paso: una pregunta sobre un contrato
Alguien de compras pregunta: «¿Con cuánto preaviso hay que cancelar el mantenimiento de la climatización?».
La pregunta se compara con los fragmentos de todos los contratos indexados y salen los más parecidos.
base vectorialUn segundo modelo los reordena y se queda con la cláusula de duración y renovación del contrato de climatización.
reordenaciónEl modelo de lenguaje responde solo con ese texto: treinta días naturales antes del vencimiento, por escrito.
modelo localLa respuesta lleva el enlace al PDF y a la página de la cláusula. Si ningún fragmento encaja, lo dice en lugar de inventar.
fuente
Cómo lo montamos
Lectura con Docling Recogemos los documentos de donde estén, ya sean carpetas compartidas, la intranet o el gestor documental, y los procesamos con Docling cada vez que llega uno nuevo o cambia uno existente.
Una base vectorial con permisos Los fragmentos se guardan en Milvus, Qdrant o pgvector si ya usas PostgreSQL, junto con los permisos del documento original, para que nadie reciba una respuesta sacada de algo que no podría abrir.
El modelo, en tus servidores Servimos un modelo abierto con vLLM u Ollama en tus máquinas, como hacemos en inferencia de IA en tus servidores, y ni las preguntas ni los documentos pasan por servicios externos.
Medir si responde bien Con tu equipo preparamos un juego de preguntas con su respuesta correcta y lo pasamos cada vez que cambian los documentos, el troceado o el modelo, para saber si el sistema mejora o empeora.
Formación para tu equipo
Si quieres que tu equipo mantenga el sistema o monte los siguientes, el curso de LangChain: RAG y agentes en local (2 días) trabaja con Docling, y el de LLM en local e infraestructura GPU (3 días) cubre la parte de servir el modelo.
Preguntas frecuentes
¿En qué se diferencia de ChatGPT o Copilot?
ChatGPT y Copilot responden desde la nube de su fabricante y, para que usen tus documentos, hay que subirlos o conectarlos a su servicio. Aquí el modelo, la base vectorial y los documentos están en tus servidores, eliges qué modelo usar y decides qué ve cada persona.
¿Se puede conectar con SharePoint o con nuestro gestor documental?
Sí. Leemos de SharePoint, de carpetas de red o de tu gestor documental a través de su API, y mantenemos los permisos que los documentos ya tienen allí.
¿Y los documentos escaneados?
Docling pasa OCR a las páginas que son imagen. Funciona bien con escaneos limpios; con fotocopias torcidas o manuscritos conviene probar antes con una muestra, y es lo primero que miramos.
¿Hace falta GPU?
Docling puede ir solo con CPU, aunque con miles de documentos una GPU lo acelera mucho. Para el modelo que redacta las respuestas sí hace falta en cuanto lo usan varias personas a la vez.
¿Por dónde se empieza?
Por una prueba con una parte de tus documentos y unas cuantas preguntas reales de tu equipo. Con eso se ve qué tal los lee Docling, cuántas respuestas acierta y qué máquina haría falta para todo el archivo.
¿Qué documentos consulta más tu equipo?
Cuéntanos qué tipo de documentos son, en qué formato y dónde están guardados. Te proponemos una prueba con una parte de ellos y unas cuantas preguntas reales.
El hardware para tu RAG
Servidores con GPU para servir el modelo y la base vectorial en tu CPD, que te entregamos con la pila de RAG instalada.
SYS-212GB-FNR-01-G22x RTX PRO 6000 · 512 GB
SYS-422GA-NRT-01-G24x RTX PRO 6000 · 1 TB
AS-5126GS-TNRT-01-G22x RTX PRO 6000 · 1,5 TB
