Fine-tuning

Il fine-tuning, o messa a punto, parte da un modello già addestrato su enormi quantità di testi o immagini e lo fa lavorare di nuovo su un insieme di dati più piccolo e mirato. Il modello conserva le sue conoscenze generali ma impara un tono, un formato di risposta o un vocabolario di settore: giuridico, medico, tecnico, o semplicemente quello della tua azienda.

Riaddestrare tutti i parametri di un grande modello richiede molta memoria e diverse GPU di fascia alta. Per questo sono molto usati metodi come LoRA: congelano il modello originale e addestrano solo piccole matrici aggiunte a fianco, qualche milione di parametri invece di diversi miliardi. Il risultato sta in un piccolo file che si carica sopra il modello base. Il fine-tuning non è sempre la risposta giusta: perché un'IA conosca i tuoi documenti, il RAG è spesso più semplice e più facile da aggiornare.

Lato hardware, la quantità di VRAM è il primo criterio. Un LoRA su un modello da 7 a 8 miliardi di parametri caricato in versione quantizzata resta alla portata di una scheda da 16 GB. Un fine-tuning completo dello stesso modello richiede molto di più, spesso più GPU collegate tra loro. Guarda anche la larghezza di banda della memoria e il supporto dei formati di calcolo recenti come il BF16.

Assembliamo workstation e rig GPU adatti sia all'addestramento sia all'inferenza, e ti aiutiamo a dimensionare la memoria in base ai modelli che ti interessano.