Tensor Cores
Spezialisierte Recheneinheiten in NVIDIA-GPUs, gebaut, um Matrizen extrem schnell zu multiplizieren. Sie erledigen den Großteil der Arbeit in der KI.
Tensor Cores sind Recheneinheiten, die seit der Volta-Architektur von 2017 in NVIDIA-GPUs integriert sind. Anders als die vielseitigen CUDA-Kerne beherrschen sie nur eine Sache: kleine Matrizen multiplizieren und das Ergebnis addieren, in einem einzigen Schritt. Genau diese Berechnung kommt in einem neuronalen Netz ständig vor.
Ein Modell zu trainieren oder Text generieren zu lassen bedeutet, Milliarden von Matrixmultiplikationen hintereinander auszuführen. Tensor Cores verarbeiten sie blockweise und viel schneller als klassische Kerne. Jede Generation fügt kompaktere Zahlenformate hinzu: FP16 und BF16, dann FP8 mit Hopper und Ada Lovelace, dann FP4 mit Blackwell, das bereits bei der fünften Generation angekommen ist. Weniger Bits pro Zahl bedeuten mehr Operationen pro Sekunde.
Achten Sie auf der Produktseite auf die Generation der Tensor Cores und die angegebene Leistung in TFLOPS für jede Genauigkeit. Vergleichen Sie zwei Karten immer bei gleicher Genauigkeit und prüfen Sie, ob der Wert „mit Sparsity“ angegeben ist, was ihn verdoppelt. Auch eine RTX-Consumer-Karte hat Tensor Cores: Sie reicht, um ein Modell lokal zu betreiben, während eine H200 auf sehr große Modelle und viele gleichzeitige Nutzer ausgelegt ist.
Unsere KI-Workstations und GPU-Server setzen alle auf aktuelle Tensor Cores, und wir helfen Ihnen, die passende Generation für Ihre Modelle zu wählen.