Server IA 8 GPU AMD Instinct MI355X

L'alternativa AMD per l'IA su larga scala: 8 GPU Instinct MI355X e 2,3 TB di memoria HBM3e, con lo stack software aperto ROCm.

Caratteristiche principali

• 8 GPU AMD Instinct MI355X (architettura CDNA 4), 288 GB di HBM3e ciascuna, per un totale di circa 2,3 TB di memoria GPU
• 8 TB/s di banda passante di memoria per GPU
• Collegamento AMD Infinity Fabric tra le GPU
• Calcolo in FP4 e FP6 per l'inferenza
• Raffreddamento a liquido diretto (circa 1.400 W per GPU)
• 2 processori AMD EPYC, software ROCm (PyTorch, vLLM…)

Utilizzi

Inferenza di modelli molto grandi (la memoria di 288 GB per GPU evita di dover suddividere i modelli), addestramento, IA generativa, calcolo ad alte prestazioni.

Come ordinare

Il server viene assemblato da un produttore partner di AMD scelto in base alla disponibilità. Su richiesta è disponibile una versione raffreddata ad aria (AMD Instinct MI350X). La configurazione finale viene definita con voi nel preventivo.

Su preventivo: descrivete il vostro progetto con il modulo in fondo alla pagina (modelli e utilizzi previsti, numero di server, potenza elettrica e raffreddamento disponibili, tempi desiderati). Vi ricontattiamo con una proposta economica e la configurazione dettagliata; l'acconto viene richiesto tramite bonifico una volta approvato il preventivo.

Garanzia del produttore e assistenza del nostro team in Francia.