Dans le secteur de l’intelligence artificielle, si l’on cherche ce qu’il se fait de mieux, sans prendre en compte la variable du prix, NVIDIA est le choix qui s’impose naturellement. Cependant, si l’on a des contraintes budgétaires, d’autres solutions sont à envisager et Intel semble proposer une solution qui tient la route avec Battlematrix. On annonce un ratio performances/prix jusque quatre fois supérieures aux solutions du caméléon en inférence !
[affilizz-publication id= »d90uenr »]
Battlematrix : un ratio performances/prix jusque quatre fois supérieures aux solutions NVIDIA ?
Pour ses machines, Intel utilise bien évidemment du matériel Intel. Toutefois, en interne, nous y retrouvons des processeurs Xeon équipés de P-Core ainsi que des cartes graphiques Intel Arc Pro B60. Concernant les performances, notre confrère stipule que sur Llama 3.1 8b, le projet Battlematrix des bleus génère 6472,37 Samples/s en offline et 1207,14 Queries/s contre 1642,22 samles/s et 1207,14 queries/s pour le NVIDIA L40S. Avec une RTX 6000 Pro, les performances s’envolent : 46841,80 samples/s et 46060 queries/s, mais les coûts sont bien plus élevés : presque 10000 €/cartes contre ~$500 pour une Arc Pro B60.
En l’état, il est tout à fait logique que la workstation d’Intel s’impose comme choix de « la raison » puisqu’il y a fort à parier que le tarif d’une seule carte verte représente à elle seule le montant de la facture globale de la machine complète d’Intel. De plus, Intel fournit là une solution complète avec une partie matérielle et logicielle validée. Les machines intègrent également toutes les fonctionnalités de gestion dont les entreprises ont besoin : mémoire ECC, surveillance et mise à jour de firmware à distance, etc.
Actuellement, NVIDIA semble être le leader incontesté de l’intelligence artificielle, mais ses solutions sont excessivement onéreuses. Intel veut aussi se faire une place sur le secteur, mais la proposition est radicalement différente puisque la marque vise sur un ratio performance/prix imbattable. Cette stratégie pourrait séduire auprès des entreprises plus modestes, reste à voir si les clients franchiront le pas !
