Embedding
Também chamado: vetor, incorporação vetorial
Um embedding é um vetor, uma lista de números, que representa o sentido de uma palavra, frase ou documento: dois textos próximos têm vetores próximos.
Um computador não compreende palavras, manipula números. Um embedding, ou incorporação vetorial em português, traduz um elemento, seja um token, uma frase, um parágrafo ou até uma imagem, num vetor de várias centenas ou milhares de números. Estes números colocam o elemento num espaço matemático em que a distância reflete a semelhança de sentido.
Os embeddings estão por todo o lado na IA. Dentro de um LLM, cada token é primeiro convertido num vetor antes de atravessar as camadas do Transformer. Fora dele, modelos de embedding dedicados servem para a pesquisa semântica: «avaria da ventoinha» e «a ventoinha já não roda» obtêm vetores vizinhos, embora quase não tenham palavras em comum. É a base do RAG: os documentos são transformados em vetores e guardados numa base vetorial, o que permite encontrar numa fração de segundo os excertos que respondem a uma pergunta.
Num assistente documental, a escolha do modelo de embedding conta tanto como a do LLM: tem de lidar bem com o português e com o vocabulário da sua área. Estes modelos são muito mais pequenos do que um LLM e correm sem dificuldade ao lado dele na mesma GPU, mas a vetorização inicial de grandes arquivos beneficia de uma placa rápida. Atenção: se mudar de modelo de embedding, é preciso voltar a vetorizar todos os documentos.
Quando instalamos um assistente de IA privado, implementamos a vetorização dos seus documentos com um modelo adequado ao seu idioma.