TPole takes you to the edge of technology

Oggi TPole presenta una soluzione davvero al confine della tecnologia; come prova tangibile di questa affermazione è utile analizzare le prestazioni che le unità intelligenti CPU e GPU, anche se sarebbe meglio dire, Dual CPU e Multi GPU, sono in grado di offrire.

GPU SuperServer SYS-821GE-TNHR

• Dual Socket E (LGA-4677): 4th Gen Intel® Xeon® Scalable processors
• Future support for the upcoming 5th Gen Intel® Xeon® processors.
• CPU-GPU Interconnect: PCIe 5.0 x16 CPU-to-GPU Interconnect
• NVIDIA SXM: HGX H100 8-GPU (80GB)
• GPU-GPU Interconnect: NVIDIA® NVLink® with NVSwitch™

CPU

Per quanto riguarda le CPU, ad oggi la massima configurazione disponibile, è con due CPU Intel Platinum 8480+, ognuna di queste ha 56 Core fisici e gestisce 112 threads, la cache è di 105MB ed il clock massimo, la Max Turbo Frequency, arriva a 3.80GHz.

RAM

Molto importante è la capacità di RAM installabile, è possibile infatti equipaggiare questo server con 32 moduli da PC5-38400 4800MHz DDR5 ECC RDIMM da 128GB cad.

GPU

Su questo server è installato un modulo NVIDIA® HGX™ H100 con 8x NVIDIA® H100 con 640GB HBM3 Memory, ogni singolo modulo ha quindi a disposizione ben 80GB di RAM.

I dati della tabella sottostante esplicitano in modo insindacabile le potenzialità di questa piattaforma.

Va tenuto conto che tutta questa “intelligenza” comunica in maniera davvero molto veloce, si tenga presente che la comunicazione tra le CPU e Nvidia HGX avviene su linee PCIe gen. 5.0.

La comunicazione tra i moduli H100 avviene con Nvlink di quarta generazione e NVSwitch.

Nvlink è il BUS di interconnesione di Nvidia tra le GPU decisamente più veloce del PCIe.

Inoltre questa ultima generazione permette di arrivare fino a 900GB/s di banda passante per ogni singola GPU.