NVMe
Auch genannt: NVMe-SSD
Protokoll, das eine SSD direkt an den PCIe-Bus anbindet. Eine NVMe-SSD liest und schreibt weit schneller als eine SATA-SSD und lädt Daten so schneller.
NVMe, kurz für „Non-Volatile Memory Express“, ist das Kommunikationsprotokoll moderner SSDs. Statt über die von Festplatten übernommene SATA-Schnittstelle zu laufen, ist die SSD direkt an PCIe-Lanes angebunden. Am verbreitetsten ist das kleine M.2-Modul, das auf das Mainboard geschraubt wird; Server nutzen außerdem die Formate U.2 oder E1.S, die sich im laufenden Betrieb tauschen lassen.
SATA ist bei etwa 550 MB/s am Ende. Eine NVMe-SSD mit PCIe 4.0 schafft über 7 GB/s, und PCIe-5.0-Modelle gehen über 10 GB/s hinaus. NVMe verwaltet zudem sehr viele Befehlswarteschlangen parallel, was die Wartezeiten stark verkürzt, wenn viele Dateien gleichzeitig gelesen werden.
Für KI zählt NVMe-Speicher vor allem beim Laden: Ein Sprachmodell ist einige bis mehrere hundert Gigabyte groß und muss bei jedem Start von der SSD in den Speicher der GPU übertragen werden. Beim Training versorgt er die GPUs mit Daten, ohne sie warten zu lassen. Achten Sie auf der Produktseite auf die Kapazität, denn Modelle sammeln sich schnell an, auf die PCIe-Generation und bei einem Server auf die Haltbarkeit in geschriebenen Terabyte (TBW). Für eine Mining-Maschine dagegen reicht ein bescheidener Speicher.
Unsere Threadripper-KI-Workstation bringt 4 TB NVMe-Speicher mit, genug Platz für viele Modelle.