GPU e IA

CUDA

Detto anche: core CUDA, CUDA core

Piattaforma di calcolo di NVIDIA che permette di programmare le sue GPU per compiti generici. I core CUDA sono le unità di calcolo di queste schede.

CUDA indica due cose collegate. Innanzitutto è una piattaforma software lanciata da NVIDIA nel 2007: un insieme di strumenti, librerie e driver che permette agli sviluppatori di usare la GPU per calcoli generici, e non solo per la visualizzazione. Per estensione, si chiamano core CUDA le unità di calcolo di base presenti a migliaia nei processori grafici NVIDIA.

La maggior parte dei software di intelligenza artificiale si basa su CUDA: PyTorch, motori di inferenza come vLLM o Ollama e numerosi strumenti di calcolo scientifico. È uno dei motivi della posizione dominante di NVIDIA nell'IA. I core CUDA elaborano un gran numero di operazioni in parallelo, mentre i Tensor Core, presenti sulle schede recenti, accelerano in modo specifico le moltiplicazioni di matrici al centro delle reti neurali. I driver e la versione di CUDA installati devono essere compatibili con i software utilizzati.

Nella scheda prodotto, il numero di core CUDA dà un'idea della potenza di calcolo, ma è un buon termine di confronto solo tra schede della stessa generazione. Per l'IA, guarda anche la quantità di VRAM, la larghezza di banda della memoria e la generazione dei Tensor Core. In pratica, verifica che il tuo sistema operativo e i tuoi driver supportino la scheda.

La nostra pagina dedicata alla NVIDIA H200 presenta una GPU da data center progettata per i carichi CUDA più impegnativi.