Actuellement, dans le domaine des puces liées à l’intelligence artificielle, NVIDIA a une avance considérable… Tellement, que l’entreprise se retrouve en situation de monopole avec ses puces A100, H100, etc. Cependant, les choses pourraient changer du tout au tout avec Intel qui annonce des performances folles avec Gaudi 2, un accélérateur made by Intel.
Gaudi 2 : le monopole de NVIDIA remis en question ?
Tout récemment, Intel a publié les résultats de ses puces Gaudi 2 dans le secteur de l’Intelligence artificielle. Via les instructions en FP8, la marque est parvenue à drastiquement améliorer les performances de ses puces. Comme on peut le voir, les gains atteignent les 103% alors que les projections initiales étaient de 90%. En benchmark, sur MLPerf Training 3.1 GPT-3, l’entrainement des cartes (384) a été terminé en 153,58 minutes contre 311,94 en juin.
Maintenant, face à l’offre de NVIDIA, l’écart entre les cartes est très mince puisque de 9% avec la H100. Face au GH200-96G, l’écart est un peu plus creusé en faveur de NVIDIA : 12%, le tout étant mesuré sur GPTJ-99 et sur 8 accélérateurs. Enfin, ça, c’est en ligne, puisque hors ligne, NVIDIA affiche toujours des performances 28% supérieures avec une H100. Avec le GH200, cet écart est réduit à 27%. Toutefois, on remarquera que la A100 est larguée à chaque fois.
Maintenant, une petite donnée qui a son importance : la précision de calcul de 99,9% en FP8.
Bref, tous ces benchmarks sont très encourageants pour Intel. Ne reste encore à savoir quel est le prix d’une telle solution. Pour rappel, une H100 de NVIDIA coûte au bas mot $30 000, voire plus, Amazon la listant à $43 989. Quoi qu’il en soit, Intel veut se positionner comme ratio performances/prix compétitif sur le secteur !
