GPU und KI

SXM

Modulformat der Rechenzentrums-GPUs von NVIDIA: Der Chip sitzt auf einem Modul, das auf der Basisplatine des Servers montiert ist, statt auf einer PCIe-Karte.

SXM bezeichnet die Bauform der High-End-GPUs von NVIDIA für Rechenzentren. Statt einer Karte, die in einen PCIe-Steckplatz gesteckt wird, sitzen GPU und Speicher auf einem flachen Modul, das über einen Steckverbinder mit hoher Kontaktdichte auf einer Basisplatine des Servers befestigt wird. SXM5 ist die Version der H100 und H200, und die Blackwell-GPUs für Rechenzentren folgen demselben Prinzip.

Dieses Format hat zwei Vorteile. Es verträgt eine deutlich höhere Leistung als die meisten PCIe-Karten, bis zu 700 W pro GPU bei der Hopper-Generation, mit einem großen Kühlkörper oder sogar Flüssigkeitskühlung. Und es führt die NVLink-Verbindungen über die Basisplatine, sodass alle GPUs im Server mit sehr hoher Datenrate kommunizieren. Das Ergebnis: Beim gleichen GPU-Modell ist die SXM-Version in der Regel schneller als die PCIe-Version.

Eine SXM-GPU kauft man nicht einzeln, um sie in einen PC einzubauen: Sie lebt in einem eigens dafür gebauten Server, meist einer HGX-Plattform mit 4 oder 8 GPUs. Prüfen Sie auf der Produktseite daher das Format (SXM oder PCIe), die Gesamtleistungsaufnahme, oft mehrere Kilowatt, und die nötige Stromversorgung, teils mit Drehstrom. Denken Sie auch an Lärm und Wärme einer solchen Maschine, die in ein Rack oder einen Technikraum gehört.

Wir bieten Server mit SXM-GPUs auf Anfrage an und planen mit Ihnen die nötige Elektroinstallation und Kühlung.