RAG

RAG significa Retrieval-Augmented Generation, en español generación aumentada por recuperación. El principio es sencillo: antes de responder, la IA busca en una base de documentos los pasajes relacionados con la pregunta y los utiliza para redactar su respuesta. Es la técnica que usan la mayoría de los asistentes documentales de empresa.

Funciona en dos fases. Primero, la indexación: los documentos se dividen en fragmentos, cada fragmento se convierte en un embedding, un vector que resume su sentido, y se guarda en una base vectorial. Después, con cada pregunta, esta también se transforma en vector, se recuperan los fragmentos más cercanos y se pasan al LLM dentro de su ventana de contexto. El modelo ya no responde de memoria: se apoya en tus textos, puede indicar sus fuentes y se equivoca mucho menos. Basta con añadir un documento para actualizar el asistente, sin volver a entrenarlo.

La calidad depende tanto de la preparación como del hardware: documentos limpios, escaneos pasados por OCR, una división coherente y un buen modelo de embedding. En cuanto a la máquina, tiene que ejecutar a la vez el modelo de embedding y el LLM. Una tarjeta de 16 GB basta para empezar; más VRAM permite un modelo más capaz y un contexto más largo para citar más pasajes. Open WebUI ya integra una función RAG para hacer las primeras pruebas.

Instalamos en tus oficinas asistentes de IA privados conectados a tus documentos, con el hardware, la instalación y el acompañamiento, bajo presupuesto.