Server IA 8 GPU NVIDIA H200 SXM (HGX H200)

Un server su piattaforma NVIDIA HGX H200: 8 GPU H200 e oltre un terabyte di memoria HBM3e per l'addestramento e l'inferenza di grandi modelli.

Caratteristiche principali

• 8 GPU NVIDIA H200 SXM, 141 GB di HBM3e ciascuna, per un totale di 1.128 GB di memoria GPU
• NVLink e NVSwitch: 900 GB/s per GPU tra le 8 GPU
• 2 processori Intel Xeon o AMD EPYC a seconda della configurazione, memoria DDR5 di diversi terabyte
• Storage NVMe e rete InfiniBand o Ethernet fino a 400 Gb/s per GPU a seconda della configurazione
• Formato rack, consumo nell'ordine di 10 kW: alimentazione e raffreddamento di livello data center

Utilizzi

Addestramento e fine-tuning di modelli, inferenza di LLM su larga scala, IA generativa, calcolo ad alte prestazioni.

Come ordinare

Il server viene assemblato da un produttore partner di NVIDIA scelto in base alla disponibilità. Le piattaforme HGX H200 stanno arrivando a fine vita presso diversi produttori: verifichiamo la disponibilità caso per caso e, se necessario, vi proponiamo un'alternativa B200 o B300.

Su preventivo: descrivete il vostro progetto con il modulo in fondo alla pagina (modelli e utilizzi previsti, numero di server, potenza elettrica e raffreddamento disponibili, tempi desiderati). Vi ricontattiamo con una proposta economica e la configurazione dettagliata; l'acconto viene richiesto tramite bonifico una volta approvato il preventivo.

Garanzia del produttore e assistenza del nostro team in Francia.