Tensor Cores
Unidades de cálculo especializadas de las GPU NVIDIA, diseñadas para multiplicar matrices a gran velocidad. Hacen la mayor parte del trabajo en IA.
Los Tensor Cores son unidades de cálculo integradas en las GPU de NVIDIA desde la arquitectura Volta, en 2017. Junto a los núcleos CUDA, que son polivalentes, solo saben hacer una cosa: multiplicar matrices pequeñas y sumar el resultado en una sola operación. Es justo el cálculo que se repite sin cesar en una red neuronal.
Entrenar un modelo o hacer que genere texto supone encadenar miles de millones de multiplicaciones de matrices. Los Tensor Cores las procesan en bloque, mucho más rápido que los núcleos clásicos. Cada generación añade formatos numéricos más compactos: FP16 y BF16, después FP8 con Hopper y Ada Lovelace, y luego FP4 con Blackwell, que va ya por la quinta generación. Menos bits por número significa más operaciones por segundo.
En una ficha de producto, fíjate en la generación de los Tensor Cores y en el rendimiento anunciado en TFLOPS para cada precisión. Compara siempre dos tarjetas con la misma precisión y comprueba si la cifra se da «con dispersión» (sparsity), lo que la duplica. Una tarjeta RTX de consumo también tiene Tensor Cores: basta para ejecutar un modelo en local, mientras que una H200 apunta a modelos muy grandes y a muchos usuarios simultáneos.
Nuestras estaciones de IA y nuestros servidores GPU se basan todos en Tensor Cores recientes, y te ayudamos a elegir la generación adecuada para tus modelos.