Le rack NVIDIA Vera Rubin subit de plein fouet les prix élevés de la mémoire. Les coûts estimés pour réunir les quantités astronomiques de RAM et de VRAM sont en augmentation de 435%. Le BOM (Bill of Material) d’un rack complet avec 72 GPU et des 36 CPU ainsi que tout ce qui va avec s’affiche à… $7,8 millions ! Les estimations proviennent de Morgan Stanley.
Vera Rubin : le coût de la mémoire impact aussi les professionnels !
Comment est organisé un rack ?
Avec Vera Rubin, la facture totale du matériel affiche une forte hausse puisque, le coût en matériel affiche $7,8 millions pour assembler un rack complet. Pour rappel, un rack NVL72, c’est 72 GPU Rubin et 36 CPU Vera. On parle également d’une très grosse quantité de mémoire puisque chaque GPU est épaulé par 288 Go de mémoire HBM4 tandis que chaque CPU gère 1,5 To de mémoire LPDDR5X. Avec ceci, il faut rajouter toute la partie réseau, les systèmes de refroidissement, la partie alimentation, etc., etc.
Au niveau de l’organisation, c’est simple, un rack complet se compose de 36 superchip affichant chacun deux GPU (2×288 Go de HBM4) et un CPU (1,5 To de LPDDR5X). Pour finir, on retrouve quatre superchip par plateau.
La mémoire, le second poste de dépense, elle représente 26% du coût total :
Côté dépense, l’élément qui pèse le plus sur la facture, ce sont les GPU. Pour un rack complet, il est estimé que les GPU coûtent pas moins de $4 millions à eux seul. En opposition, un rack NVL72 Blackwell de génération actuel, c’est $2,5 millions de GPU. Ensuite, en seconde position, nous avons la mémoire qui représente une hausse des dépenses de 435%. Au total, les coûts estimés en mémoire (HBM et LPDDR) sont de plus de $2 millions contre « seulement » $373 939 pour Blackwell. Enfin, le troisième poste de dépense, ce sont les CPU avec un coût unitaire estimé de $5 000 soit $180 000 au total.
Avec ces trois composants, nous arrivons à $6,14 millions, les deux derniers millions sont alloués au matériel réseau, les PCB, etc., etc.
Une facture que les professionnels devront aussi payer !
Ici, il n’est question que du BOM, juste la facture du matériel. Ensuite s’ajoutent les frais d’assemblage, de livraison, la marge que prend NVIDIA, les taxes, etc., etc. Clairement, les entreprises devront prévoir un sacré budget pour s’offrir un rack NVL72. Par ailleurs, il y a aussi fort à parier que ces derniers se destinent aux très grosses entreprises de type Amazon, Meta, OpenAI ou Microsoft.
Dans tous les cas, on retiendra que le prix des GPU progresse de 57% par rapport à Blackwell tandis que le prix de la mémoire monte en flèche : +435% et représente à elle seule 26% du coût en matériel d’un rack.
