miniatura|377x377px|Un bastidor que conté cinc superordinadors DGX-1. Nvidia DGX és una línia de servidors i estacions de treball produïts per Nvidia especialitzats a utilitzar GPGPU per accelerar aplicacions d'aprenentatge profund. El disseny típic d'un sistema DGX es basa en un xassís de muntatge en bastidor amb una placa base que transporta CPU de servidor x86 d'alt rendiment (normalment Intel Xeons, amb l'excepció DGX A100 i DGX Station A100, que utilitzen CPU AMD EPYC). El component principal d'un sistema DGX és un conjunt de 4 a 16 mòduls de GPU Nvidia Tesla en una placa del sistema independent. Els sistemes DGX tenen grans dissipadors de calor i ventiladors potents per refredar adequadament milers de watts de sortida tèrmica. Els mòduls de GPU normalment s'integren al sistema mitjançant una versió del sòcol SXM.
Comparativa dins la família DGX: https://www.nvidia.com/content/dam/en-zz/Solutions/Data-Center/dgx-station/nvidia-dgx-station-a100-datasheet.pdf AcceleradorAquhitecturaEncapsulatFP32 CUDA NuclisFP64 Cores (excl. Tensor)INT32/FP32 NuclisINT32 NuclisBoost rellotgeRellotge memòriaAmplada Bus memòriaAmplada de banda memòriaVRAMPrecisió simple (FP32)Precisió doble (FP64)INT8 (no-Tensor)INT8 Dense TensorINT32FP16FP16 Dense Tensorbfloat16 Dense TensorTensorFloat-32 (TF32) Dense TensorFP64 Dense TensorInterconnect (NVLink)GPUL1 Cache SizeL2 Cache SizeTDPGPU Die SizeTransistor CountManufacturing ProcessH100HopperSXM516896460816896N/A1780 MHz4.8Gbit/s HBM35120-bit3072GB/sec80GB60 TFLOPs30 TFLOPsN/A4000 TOPsN/AN/A2000 TFLOPs2000 TFLOPs1000 TFLOPs60 TFLOPs900GB/secGH10025344KB(192KBx132)51200 KB700W814 mm280BTSMC 4 nm N4A100 80GBAmpereSXM4691234566912N/A1410 MHz3.2Gbit/s HBM25120-bit2039GB/sec80GB19.5 TFLOPs9.7 TFLOPsN/A624 TOPs19.5 TOPs78 TFLOPs312 TFLOPs312 TFLOPs156 TFLOPs19.5 TFLOPs600GB/secGA10020736KB(192KBx108)40960 KB400W826 mm254.2BTSMC 7 nm N7A100 40GBAmpereSXM4691234566912N/A1410 MHz2.4Gbit/s HBM25120-bit1555GB/sec40GB19.5 TFLOPs9.7 TFLOPsN/A624 TOPs19.5 TOPs78 TFLOPs312 TFLOPs312 TFLOPs156 TFLOPs19.5 TFLOPs600GB/secGA10020736KB(192KBx108)40960 KB400W826 mm254.2BTSMC 7 nm N7V100 32GBVoltaSXM351202560N/A51201530 MHz1.75Gbit/s HBM24096-bit900GB/sec32GB15.7 TFLOPs7.8 TFLOPs62 TOPsN/A15.7 TOPs31.4 TFLOPs125 TFLOPsN/AN/AN/A300GB/secGV10010240KB(128KBx80)6144 KB350W815 mm221.1BTSMC 12 nm FFNV100 16GBVoltaSXM251202560N/A51201530 MHz1.75Gbit/s HBM24096-bit900GB/sec16GB15.7 TFLOPs7.8 TFLOPs62 TOPsN/A15.7 TOPs31.4 TFLOPs125 TFLOPsN/AN/AN/A300GB/secGV10010240KB(128KBx80)6144 KB300W815 mm221.1BTSMC 12 nm FFNP100PascalSXM/SXM2N/A17923584N/A1480 MHz1.4Gbit/s HBM24096-bit720GB/sec16GB10.6 TFLOPs5.3 TFLOPsN/AN/AN/A21.2 TFLOPsN/AN/AN/AN/A160GB/secGP1001344KB(24KBx56)4096 KB300W610 mm215.3BTSMC 16 nm FinFET+
Referències
Categoria:Processament de llenguatge natural