Durant l’Intel Vision 2024, il est question d’IA. De toute façon, en ce moment c’est difficile d’échapper à ce sujet…Mais qu’on le veuille ou non, c’est là que se trouve la hype et l’argent. Et Intel doit aussi faire tourner la boutique. En présentant son accélérateur Gaudi 3, les bleus montrent les muscles et tentent de démontrer qu’ils sont capables de concurrencer Nvidia sur ce terrain. Pour étayer la démonstration, Intel s’est livré à un petit comparatif effectué à partir de tests effectués en laboratoire. Comparé au GPU Nvidia H100, le Gaudi 3 serait jusqu’à 50 % plus rapides tout en consommant moins d’énergie.
Gaudi 3 : Intel déjà compétitif mais incapable de produire lui même
L’accélérateur Intel Gaudi 3 AI est équipé de 128 Go de mémoire HBM2E (bande passante de 3,7 To/s) avec un TDP de 600W dans sa version PCI-Express 5.0 x16. Avec la même interface, mais sous la forme d’une « Mezzanine Card » (PMC), son TDP monte alors à 900W. Alors que la demande explose et que les fabricants actuels ont du mal à satisfaire l’offre, Intel annonce qu’il lancera Gaudi 3 sur un marché dès ce trimestre. Cette déclaration amène à se poser des questions sur l’entité qui va produire ces cartes…Mais le fait que la gravure 5nm soit précisée semble donc confirmer que c’est bien TSMC qui va faire le boulot.
| Gaudi 3 | Gaudi 2 | Gaudi (1) | |
| Matrix Math Engines | 8 | 2 | 1 |
| Tensor Cores | 64 | 24 | 8 |
| Clockspeed | ? | ? | ? |
| Memory Clock | 3.7Gbps HBM2e | 3.27Gbps HBM2e | 2Gbps HBM2 |
| Memory Bus Width | 2x 4096-bit | 6144-bit | 4096-bit |
| Memory Bandwidth | 3.7TB/sec | 2.45TB/sec | 1TB/sec |
| VRAM | 128GB (2x 64GB) |
96GB | 32GB |
| FP8 Matrix | 1835 TFLOPS | 865 TFLOPS | N/A |
| BF16 Matrix | 1835 TFLOPS | 432 TFLOPS | ? TFLOPS |
| Interconnect | 200Gb Ethernet 24 Links (600GB/sec) |
100Gb Ethernet 24 Links (300GB/sec) |
100Gb Ethernet 10 Links (120GB/sec) |
| Processor | Gaudi 3 | Gaudi 2 | Gaudi (1) |
| Transistor Count | 2x (A lot) | ? | ? |
| TDP | 900W | 600W | 350W |
| Manufacturing Process | TSMC 5nm | TSMC 7nm | TSMC 16nm |
| Interface | OAM 2.0 | OAM 1.1 | OAM |
Dans le paysage en constante évolution du marché de l’IA, une lacune importante subsiste dans l’offre actuelle. Les entreprises prennent en compte des considérations telles que la disponibilité, l’évolutivité, les performances, le coût et l’efficacité énergétique. Intel Gaudi 3 se distingue comme l’alternative GenAI qui présente une combinaison convaincante de rapport qualité-prix, d’évolutivité du système et d’avantage en termes de délai de rentabilisation. (Justin Hotard, vice-président exécutif et directeur général du centre de données et du groupe IA d’Intel.)
