NVLink
Também chamado: NVSwitch
Ligação de alto débito da NVIDIA que liga diretamente várias GPU entre si, muito mais depressa do que o PCIe, para trabalharem como uma só.
O NVLink é uma ligação proprietária da NVIDIA que põe as GPU a comunicar diretamente entre si, sem passar pelo barramento PCIe nem pelo processador. O NVSwitch é o chip de comutação que o acompanha nos grandes servidores: permite que cada GPU troque dados com todas as outras à velocidade máxima, e não apenas com a vizinha.
Quando um modelo de IA é demasiado grande para uma única GPU, é dividido por várias placas que têm de trocar dados constantemente. Com uma ligação lenta, as GPU passam o tempo à espera. Com o NVLink, o débito é várias vezes superior ao do PCIe: cerca de 900 GB/s por GPU na geração Hopper, e o dobro na Blackwell. Oito GPU ligadas por NVSwitch comportam-se então quase como um único acelerador gigante, o que beneficia sobretudo o treino e a inferência de modelos muito grandes.
Numa ficha de produto, procure a menção NVLink e a sua geração, bem como a presença de NVSwitch nos servidores de 8 GPU. Os módulos SXM das plataformas HGX tiram pleno partido dele, e algumas placas PCIe para centro de dados aceitam uma ponte NVLink entre duas ou quatro placas. As placas de consumo recentes já não o têm: para executar um modelo localmente numa ou duas placas, o PCIe é mais do que suficiente.
Nos servidores multi-GPU que propomos mediante orçamento, indicamos sempre o tipo de ligação entre as GPU e ajudamo-lo a avaliar se o NVLink é útil para a sua utilização.