Fine-tuning

O fine-tuning, ou ajuste fino, parte de um modelo já treinado com enormes quantidades de texto ou de imagens e põe-no a trabalhar de novo com um conjunto de dados mais pequeno e direcionado. O modelo mantém os seus conhecimentos gerais, mas aprende um tom, um formato de resposta ou um vocabulário profissional: jurídico, médico, técnico ou simplesmente o da sua empresa.

Voltar a treinar todos os parâmetros de um grande modelo exige muita memória e várias GPU de topo de gama. É por isso que métodos como o LoRA são muito usados: congelam o modelo original e treinam apenas pequenas matrizes acrescentadas ao lado, alguns milhões de parâmetros em vez de vários milhares de milhões. O resultado cabe num pequeno ficheiro que se carrega por cima do modelo de base. O fine-tuning nem sempre é a resposta certa: para que uma IA conheça os seus documentos, o RAG é muitas vezes mais simples e mais fácil de atualizar.

Do lado do hardware, a quantidade de VRAM é o primeiro critério. Um LoRA sobre um modelo de 7 a 8 mil milhões de parâmetros carregado em versão quantizada continua ao alcance de uma placa de 16 GB. Um fine-tuning completo do mesmo modelo exige muito mais, muitas vezes várias GPU ligadas entre si. Veja também a largura de banda de memória e o suporte para formatos de cálculo recentes como o BF16.

Montamos estações e rigs GPU adequados tanto ao treino como à inferência, e ajudamo-lo a dimensionar a memória consoante os modelos que pretende usar.