NVLink
También llamado: NVSwitch
Enlace de alta velocidad de NVIDIA que conecta directamente varias GPU entre sí, mucho más rápido que el PCIe, para que trabajen como una sola.
NVLink es una conexión propietaria de NVIDIA que comunica las GPU directamente entre sí, sin pasar por el bus PCIe ni por el procesador. NVSwitch es el chip de conmutación que la acompaña en los grandes servidores: permite que cada GPU intercambie datos con todas las demás a máxima velocidad, y no solo con su vecina.
Cuando un modelo de IA es demasiado grande para una sola GPU, se reparte entre varias tarjetas que tienen que intercambiar datos constantemente. Con un enlace lento, las GPU se pasan el tiempo esperando. Con NVLink, el ancho de banda es varias veces superior al del PCIe: unos 900 GB/s por GPU en la generación Hopper, y el doble en Blackwell. Ocho GPU conectadas mediante NVSwitch se comportan entonces casi como un único acelerador gigante, algo que beneficia sobre todo al entrenamiento y a la inferencia de modelos muy grandes.
En una ficha de producto, busca la mención NVLink y su generación, así como la presencia de NVSwitch en los servidores de 8 GPU. Los módulos SXM de las plataformas HGX lo aprovechan al máximo, y algunas tarjetas PCIe para centro de datos admiten un puente NVLink entre dos o cuatro tarjetas. Las tarjetas de consumo recientes ya no lo tienen: para ejecutar un modelo en local con una o dos tarjetas, el PCIe es más que suficiente.
En los servidores multi-GPU que ofrecemos bajo presupuesto, siempre indicamos el tipo de enlace entre las GPU y te ayudamos a valorar si NVLink es útil para tu uso.