FLOPS
Detto anche: TFLOPS, PFLOPS
Numero di operazioni su numeri in virgola mobile che un chip esegue al secondo. È l'unità di potenza di calcolo delle GPU e dei chip per l'IA.
FLOPS sta per «floating-point operations per second», cioè il numero di operazioni su numeri in virgola mobile eseguite ogni secondo. Si usa per GPU, processori e acceleratori per l'IA. I multipli seguono il sistema metrico: un TFLOPS equivale a mille miliardi di operazioni al secondo, un PFLOPS a mille TFLOPS. Da non confondere con l'hashrate, che misura la velocità di un miner in hash al secondo.
I FLOPS dichiarati sono valori di picco, calcolati a partire dal numero di unità di calcolo e dalla frequenza. Nell'uso reale si raggiunge solo una parte di questo massimo, perché il chip aspetta spesso i dati provenienti dalla memoria. È vero in particolare per la generazione di testo da parte di un modello linguistico, limitata soprattutto dalla larghezza di banda della memoria più che dalla potenza bruta.
Nella scheda prodotto, un dato in FLOPS ha senso solo insieme alla sua precisione: FP64, FP32, FP16, FP8 o FP4. Più il formato è corto, più il dato sale, e la dicitura «con sparsità» lo raddoppia ancora. Per confrontare due GPU, prendi la stessa precisione, poi guarda la quantità di memoria e la sua larghezza di banda. Per l'addestramento, i FLOPS in BF16 o in FP8 sono i più significativi; per far girare un modello in locale, spesso conta di più la memoria.
La nostra pagina che confronta ASIC e GPU aiuta a capire quale macchina scegliere a seconda che si voglia fare mining o IA.