L’IA, tout le monde en veut… Enfin, dans l’industrie… Et pour faire tourner les modèles d’IA, il faut du matériel performant, très performant. Pour cela, nous avons Intel qui nous propose ses H100 tandis que chez Intel, nous avons Gaudi2. Pour savoir quelle solution est la plus rapide, Stability AI, les mecs derrière Stable Diffusion 3, une IA génératrice d’images, mène des tests comparatifs.
Stable Diffusion 3 : qui d’entre Intel ou NVIDIA a le matos le plus rapide ?
Bien entendu, ces résultats sont basés sur les performances de serveurs entiers. Ainsi, deux nœuds de 16 accélérateurs comportant 16 GPU chacun sont capables de générer 927 images/secs en étant équipés de produits Gaudi2. Du côté de NVIDIA, les scores sont moins bons puisqu’avec autant de puces on passe à 595 images générées par seconde avec des H100. Avec des A100 le résultat tombe à 381.
Si on passe maintenant sur des machines disposant de 4096 accélérateurs, le nombre d’images générées par seconde passe à 12 654 sur Gaudi2. Avec les H100, ce nombre est toujours inférieur : 3 992, une sacrée différence. D’ailleurs par carte, cela représente une différence de 49,4 images/sec avec du matos Intel contre 15,6 images pour du H100.
Maintenant, il faut aussi tenir compte de l’environnement logiciel. Tant que les cartes NVIDIA ne profitent de TensoRT, les produits Intel sont plus performants. Cependant, avec TensorRT, on apprend qu’un A100 est 40% plus rapide qu’une Gaudi2.
Comme quoi, si le matériel compte, l’API ou le Framework utilisé est important également.
