Embedding

Un ordenador no entiende las palabras, maneja números. Un embedding, o incrustación en español, traduce un elemento, ya sea un token, una frase, un párrafo o incluso una imagen, en un vector de varios cientos o miles de números. Esos números sitúan el elemento en un espacio matemático donde la distancia refleja el parecido de sentido.

Los embeddings están por todas partes en la IA. Dentro de un LLM, cada token se convierte primero en un vector antes de atravesar las capas del Transformer. Fuera de él, modelos de embedding dedicados sirven para la búsqueda semántica: «avería del ventilador» y «el ventilador ya no gira» obtienen vectores cercanos aunque casi no compartan palabras. Es la base del RAG: los documentos se transforman en vectores y se guardan en una base vectorial, lo que permite encontrar en una fracción de segundo los pasajes que responden a una pregunta.

Para un asistente documental, la elección del modelo de embedding importa tanto como la del LLM: tiene que manejar bien el idioma de tus documentos y el vocabulario de tu sector. Estos modelos son mucho más pequeños que un LLM y funcionan sin problema a su lado en la misma GPU, pero la vectorización inicial de grandes archivos se beneficia de una tarjeta rápida. Atención: si cambias de modelo de embedding, hay que volver a vectorizar todos los documentos.

Cuando instalamos un asistente de IA privado, ponemos en marcha la vectorización de tus documentos con un modelo adaptado a tu idioma.