En plus d’avoir annoncé ses nouveaux processeurs Epyc basés sur l’architecture Zen 6, AMD annonçait son nouveau GPU Instinct MI455X. Ce nouveau GPU est un monstre destiné à l’intelligence artificielle puisqu’il intègre des fonctionnalités dédiées. Mais la configuration de la puce ainsi que ses 432 Go de mémoire HBM4 ne laissent pas de doute quant à l’usage final de la carte !
Instinct MI455X : un très gros GPU en plusieurs chiplet…
Et beaucoup de mémoire !
Avec cette puce, l’entreprise nous propose un GPU constitué de plusieurs dies. En effet, ce dernier dispose de huit Accelerator Complex Dies (soit 256 Work Group), lesquels sont fabriqués à partir d’un process N2 de chez TSMC. Avec ceci, nous avons deux Fabric and Cache Dies et deux I/O Dies, lesquels sont produits en N3P, toujours de chez TSMC. Au niveau de la configuration mémoire, c’est la fête du slip puisque nous avons un total de 12 piles mémoires en HBM4 lesquelles réunissent 432 Go de VRAM. Via une interface disposant de 192 canaux, la bande passante mémoire atteint les 23,3 To/s. Enfin, nous retiendrons le support de deux liens PCIe de sixième génération ou de trois AMD AI-NIC via UALink.
De très grosses performances :
Le but de cette puce, c’est de satisfaire la demande dans le secteur de l’intelligence artificielle. Pour cela, l’entreprise annonce de très grosses performances en calcul MXFP8 et MXFP6 : 20,13 PFLOP. En MXFP4, ces dernières atteignent les 40,26 PFLOP, soit des performances multipliées par quatre par rapport à l’actuelle Instinct MI355X.
Des fonctionnalités dédiées :
Le GPU supporte également des fonctionnalités dédiées et fort pratiques à destination de l’IA. Dans le lot, nous avons le Tensor Data Mover qui permet des transferts asynchrones entre la mémoire globale est le stockage local des données. Cela permet de déplacer les données sans bloquer le GPU par exemple.
Sinon, le GPU est « partitionnable ». En gros, il peut fonctionner comme une seule puce ou plusieurs puces, chacune ayant accès à une certaine quantité de mémoire. Par exemple, en mode NPS2, le GPU se comportera comme deux GPU, chacun exploitant six piles de mémoire HBM4. Cela offre plus de flexibilité et permet de faire tourner plusieurs modèles d’IA avec un seul GPU.
D’autres déclinaisons :
AMD annonçait également d’autres cartes Instinct Mi avec la 430X, un modèle destiné aux calculs scientifique, à l’IA souveraine ou aux HPC-IA. Ici, on parle de performances atteignant les 288 TFLOPS en FP64. Mais on ne connait pas encore son prix ni sa configuration matérielle.
