TPU
Von Google entwickelter KI-Beschleunigerchip. Ein ASIC für die Matrixberechnungen neuronaler Netze, der nicht als Steckkarte verkauft wird.
TPU steht für „Tensor Processing Unit“. Es ist ein Chip, den Google speziell für den Betrieb neuronaler Netze entwickelt hat. Google setzt ihn seit 2015 in den eigenen Rechenzentren ein und hat ihn 2016 öffentlich vorgestellt. Seitdem sind mehrere Generationen erschienen, jede leistungsfähiger und sparsamer als die vorherige.
Eine TPU ist im Grunde ein ASIC, genau wie ein Bitcoin-Miner: Statt vielseitig zu sein wie eine GPU, ist sie auf eine einzige Familie von Berechnungen zugeschnitten, die Matrixmultiplikationen im Kern der KI, die sie mit hoher Energieeffizienz abarbeitet. TPUs werden zu Hunderten oder Tausenden in Clustern zusammengefasst, die über ein sehr schnelles Netzwerk verbunden sind, um sehr große Modelle zu trainieren und zu betreiben.
Für Privatpersonen und Unternehmen ist der Unterschied ganz konkret: Rechenzentrums-TPUs gibt es nicht im Handel. Google betreibt sie vor allem in den eigenen Anlagen und stellt sie aus der Ferne zur Verfügung; frei verkäuflich sind nur kleine Chips für Embedded-Elektronik. Wenn Sie KI bei sich vor Ort auf eigener Hardware betreiben möchten, führt der Weg über GPUs, die zudem vom CUDA-Software-Ökosystem profitieren, das mit nahezu allen Werkzeugen und Modellen kompatibel ist. Es ist dieselbe Überlegung wie zwischen ASIC und GPU beim Mining: Spezialisierung gegen Vielseitigkeit.
Wir bieten Workstations und Server mit NVIDIA-GPUs an, damit Sie Ihre KI lokal betreiben können, ohne von einem externen Dienst abhängig zu sein.