IA et/ou encodage vidéo
NVIDIA annonce sa nouvelle carte graphique basée sur l’architecture Turing : Tesla T4. Destinée à accélérer l’inférence, elle embarque 320 cœurs Tensor Turing et 2560 cœurs CUDA. On y retrouve également 16 Go de mémoire GDDR6 avec une bande passante allant jusqu’à 320 Go/s. D’après NVIDIA, la Tesla T4 offre 12 fois les performances de la précédente Tesla P4, tout en gardant un petit format, refroidi passivement (NVIDIA affirme que la ventilation d’un serveur typique suffit), avec la même enveloppe thermique de 75 Watts.
Encodage de 38 vidéo FHD en même temps
D’après NVIDIA, la Tesla T4 est capable d’offrir 8,1 TFLOPS de performances FP32, 65 TFLOPS FP16 (accumulé avec les coeurs Tensor), 130 TOPS INT8. Contrairement à la P4, la nouvelle Tesla propose aussi un mode de précision INT4 (260 TOPS) et un mode expérimental INT1 .
Tout comme les Quadro RTX et GeForce RTX, son GPU embarque des coeurs RT que NVIDIA dit spécialement dédiés à la VDI (Virtual Desktop Infrastructure ou machine virtuelle). Enfin, la carte embarque également des optimisations pour l’utilisation de l’IA dans le cadre du traitement vidéo, grâce à un moteur de transcodage qui lui permet d’offrir le double des performances de la Tesla P4. Le constructeur dit que la Tesla T4 peut décoder jusqu’à 38 flux vidéo FHD simultanément.
| Tesla P4 | Tesla T4 | |
|---|---|---|
| Architecture | Pascal GP104 | Turing TU104 |
| Gravure | 16nm FinFET | 12nm FinFET |
| Cœurs CUDA | 2560 CUDA | 2560 CUDA |
| Fréquences | 1063 MHz | 1582 MHz |
| FP32 | 5.50 TFLOPs | 8.1 TFLOPs |
| FP16 | 11 TFLOPs | 65 TFLOPs |
| INT8 | 22 DLTOPs | 130 DLTOPs |
| INT4 | – | 260 DLTOPs |
| VRAM | 8 GO GDDR5 | 16 GO GDDR6 |
| Fréquence de la mémoire | 6 GHz | 10 GHz |
| Bus mémoire | 256 bits | 256 bits |
| Bande passante | 192.0 Go/s | 320 Go/s |
| TDP | 75W | 75W |
