La future génération de carte graphique de NVIDIA, Blackwell, est toujours à l’ordre du jour. Cependant, nous allons parler serveur et HPC (High Performance Computing) avec la B100. Alors que l’annonce de l’architecture serait pour demain, une rumeur quant à la configuration de la carte pointe le bout de son nez !
B100 : 192 Go de mémoire HBM3e ?
Avec ce nouveau produit, on s’attend à quelque chose de vraiment monstrueux dans le domaine de l’IA. Effectivement, sur une diapo fuité, on peut voir l’indice de performance pointer « to the moon ». Visiblement, les H100 et H200, cartes les plus performantes dans le milieu actuellement, feraient vraiment peau de chagrin.
Autre point qui peut faire peur : le prix de vente. Actuellement, une H100 c’est au bas mot quelque chose comme $20 000. Ici, avec cette B100, on peut raisonnablement s’attendre à une facture encore plus élevée.
Par ailleurs, la carte profiterait de deux dies profitant d’un assemblage CoWoS-L (Chip-on-Wafer-on-Substrate) de TSMC. Idem la gravure qui est également confiée à l’entreprise taïwanaise, qui a d’ailleurs vu ses factures d’électricité augmenter.
En parlant d’électricité, les data centers risquent de voir la leur augmenter également. En effet, on peut s’attendre à ce que ce modèle affiche des consommations démesurées avec du 1000W par GPU. C’est en tout cas ce que révélait un cadre de chez Dell.
I dont want to spoil Nvidia B100 launch tomorrow but this thing is a monster. 2 dies on CoWoS-L, 8×8-Hi HBM3e stacks for 192GB of memory. One year later, B200 goes with 12-Hi stacks and will offer a beefy 288GB. And the performance! it's… oh no Jensen is there… me run away! pic.twitter.com/YFXzrnSRmG
— AGF (@XpeaGPU) March 17, 2024
Maintenant, si les détails du GPU ne sont pas encore connus, la configuration mémoire est davantage évoquée. Ce modèle de carte profiterait alors d’une très grosse quantité de VRAM puisqu’il est question de 192 Go de HBM3e. Il serait ici question de huit stacks de 8-Hi de mémoire. Pour rappel, AMD propose déjà cette capacité sur sa MI300X. Tout ceci ne serait d’ailleurs que le début puisque des capacités de 288 Go sont déjà évoquées pour la B200… Enfin, ce ne sont que des suppositions, affaire à suivre.
