La banque d’investissement Morgan Stanley dresse une estimation précise du coût que représente le refroidissement d’un serveur Oberon constitué de 72 GPU NVIDIA Blackwell. Clairement, rien que pour le refroidissement, il y en a pour une petite somme puisqu’il faut compter pas moins de $50000 selon les estimation de ladite banque ! Oui, nous sommes dans un autre milieu !
$50000 pour watercooler un serveur Oberon avec 72 GPU Blackell !
Très clairement, les GPU Blackwell à destination de l’IA, ça consomme et ça chauffe. Rien qu’en GPU, un serveur avec 72 puces, cela représente plus de 100000W de consommation… Et c’est sans compter la consommation des 32 processeurs Grace. Un seul tiroir consomme à lui 6600W soit 6200W à dissiper. Bref, vous comprenez aisément qu’avec de telles valeurs le refroidissement par air est de facto exclu. En plus des GPU et des CPU à refroidir, il y a toute la partie commutation qui s’ajoute à la facture.
Bref, au niveau des coûts, il est estimé qu’un plateau coûte à lui seul $2260 soit environ $40680 pour le serveur entier… Enfin, pour la partie traitement. Si l’on ajoute la partie commutation, on atteint $9180 au total soit $1020 par tiroir. Bref, si l’on fait total, nous sommes à $49860 au total, une jolie somme. Ce qui pèse le plus lourd dans l’opération, se sont les plaques froides hautes performances qui se chiffrent à plusieurs centaines de dollars chacune.
Ce qui est intéressant, ce que Morgan Stanley estime également le coût en refroidissement de Vera Rubin à venir. Ce dernier affiche une facture en hausse de 17% puisque les GPU seront encore plus énergivores, idem pour la partie commutation dont les performances ainsi que la conso et la chauffe progressent. Le coût estimé ? $55710 rien qu’en watercooling.
Malgré des performances qui progressent de manière significative, les besoins en refroidissement sont davantage prononcés comme on peut le voir.
