IA generativa

L'IA generativa riunisce i sistemi di intelligenza artificiale che producono qualcosa che prima non esisteva: una risposta scritta, un riassunto, un'immagine, una voce, un brano musicale, un video o del codice informatico. Le si dà un'istruzione, chiamata prompt, e crea un risultato basandosi su ciò che ha imparato durante l'addestramento su quantità molto grandi di dati.

Dietro questi strumenti ci sono soprattutto due famiglie di modelli. I modelli linguistici di grandi dimensioni, o LLM, costruiti sull'architettura Transformer, prevedono il testo token dopo token. I modelli di diffusione, usati per immagini e video, partono da un rumore casuale che affinano passo dopo passo. In entrambi i casi il risultato è probabile più che garantito: un'IA generativa può sbagliare con sicurezza, ed è per questo che conviene verificare le sue risposte o fornirle fonti affidabili.

Questi modelli richiedono molto calcolo e soprattutto molta memoria. Per farli girare sulla tua macchina, il criterio principale è la VRAM della scheda grafica, perché determina la dimensione del modello che puoi caricare. Una GPU da 16 GB permette già di usare modelli di testo di medie dimensioni o di generare immagini. I modelli più pesanti richiedono 32 GB o più, o addirittura più GPU.

Proponiamo GPU, rig e workstation IA pronte all'uso per usare l'IA generativa a casa tua, senza inviare i tuoi dati a un servizio esterno.