NVMe
Também chamado: SSD NVMe, SSD M.2
Protocolo que liga um SSD diretamente ao barramento PCIe. Um SSD NVMe lê e escreve muito mais depressa do que um SSD SATA, acelerando o carregamento de dados.
NVMe, de «Non-Volatile Memory Express», é o protocolo de comunicação dos SSD modernos. Em vez de passar pela interface SATA, herdada dos discos rígidos, o SSD liga-se diretamente a linhas PCIe. O formato mais comum é o pequeno módulo M.2 que se aparafusa na motherboard; os servidores usam também formatos U.2 ou E1.S, substituíveis a quente.
O SATA fica-se pelos 550 MB/s. Um SSD NVMe PCIe 4.0 ultrapassa os 7 GB/s, e os modelos PCIe 5.0 vão além dos 10 GB/s. O NVMe gere também um número muito elevado de filas de comandos em paralelo, o que reduz fortemente os tempos de espera quando muitos ficheiros são lidos ao mesmo tempo.
Para a IA, o armazenamento NVMe conta sobretudo no carregamento: um modelo de linguagem pesa de alguns gigabytes a várias centenas, e é preciso transferi-lo do disco para a memória da GPU a cada arranque. No treino, alimenta as GPU com dados sem as deixar à espera. Numa ficha de produto, veja a capacidade, porque os modelos acumulam-se depressa, a geração PCIe e, num servidor, a resistência expressa em terabytes escritos (TBW). Para uma máquina de mineração, pelo contrário, basta um armazenamento modesto.
A estação de IA Threadripper que propomos tem 4 TB de armazenamento NVMe, o suficiente para guardar muitos modelos.