FLOPS
Auch genannt: TFLOPS, PFLOPS, Gleitkommaoperationen pro Sekunde
Anzahl der Gleitkommaoperationen, die ein Chip pro Sekunde ausführt. Die Einheit für die Rechenleistung von GPUs und KI-Chips.
FLOPS steht für „floating-point operations per second“, also die Anzahl der Gleitkommaoperationen pro Sekunde. Die Einheit wird für GPUs, Prozessoren und KI-Beschleuniger verwendet. Die Vielfachen folgen dem metrischen System: Ein TFLOPS entspricht einer Billion Operationen pro Sekunde, ein PFLOPS tausend TFLOPS. Nicht zu verwechseln mit der Hashrate, die das Tempo eines Miners in Hashes pro Sekunde misst.
Die angegebenen FLOPS sind Spitzenwerte, berechnet aus der Zahl der Recheneinheiten und der Taktfrequenz. Im realen Einsatz wird nur ein Teil dieses Maximums erreicht, weil der Chip oft auf Daten aus dem Speicher wartet. Das gilt besonders für die Textgenerierung durch ein Sprachmodell, die vor allem durch die Speicherbandbreite begrenzt ist und weniger durch die reine Rechenleistung.
Auf einer Produktseite ergibt ein FLOPS-Wert nur zusammen mit seiner Genauigkeit Sinn: FP64, FP32, FP16, FP8 oder FP4. Je kürzer das Format, desto höher der Wert, und der Zusatz „mit Sparsity“ verdoppelt ihn noch einmal. Um zwei GPUs zu vergleichen, nehmen Sie dieselbe Genauigkeit und schauen dann auf Speichermenge und Bandbreite. Für das Training sind die FLOPS in BF16 oder FP8 am aussagekräftigsten; um ein Modell lokal zu betreiben, zählt oft der Speicher mehr.
Unsere Vergleichsseite zu ASICs und GPUs hilft zu verstehen, welche Maschine sich eignet, je nachdem, ob Sie minen oder KI betreiben möchten.