Visiblement, NVIDIA ne semble pas tout à fait satisfait du rythme de développement de la mémoire HBM. Il faut dire que l’IA est très consommatrice en capacité mémoire. D’un autre côté, le volume de données à manipuler pour l’entrainement est aussi colossal. Pour cela, les verts s’associent avec Kioxia pour développer des SSD suffisamment performants pour remplacer la mémoire HBM que le caméléon semble juger trop restrictive d’un point de vue capacité ! Bientôt des GPU IA équipés de SSD en guise de VRAM ?
Kioxia : des SSD pour les GPU IA de NVIDIA !
L’objectif pour Kioxia serait de proposer des SSD qui se connectent directement au GPU sans passer par le CPU ce qui serait trop néfaste pour les performances. Mais pour ne rien perdre en performance, la partie SSD doit aussi tenir le coup et proposer des performances aléatoires jusqu’à 100 fois supérieures à celles des SSD grand public. Dans les grandes lignes, NVIDIA a fixé comme objectif d’atteindre les 200 millions d’IOPS sur la partie SSD pour être connecté au GPU. Chose que la firme japonaise souhaite atteindre via deux SSD.
Par ailleurs, il faut aussi une interface performante qui ne soit pas trop restrictive en matière de bande passante. Pour ça, le plan c’est de tirer parti du PCIe 7.0 dont la bande passante doit être quatre fois supérieure à la norme PCIe 5.0 actuelle. Malheureusement, cette offre ne se concrétisera pas avant 2027, c’est en tout cas la fenêtre de lancement qui est actuellement évoquée.
Maintenant, les objectifs fixés à Kioxia sont ambitieux, reste à savoir si le fabricant surmontera ce défit d’une par. D’autre par, imaginez un peu des cartes graphiques épaulées par des SSD dont la capacité mémoire atteint les 2 To, 4 To voire bien plus finalement. Contrairement à la mémoire HBM, il est bien plus facile de proposer des capacités importantes avec de la NAND. De plus, on peut aussi imaginez des solutions hybrides alliant HBM et NAND, afin de tirer partie du meilleur des deux monde : la bande passante pour la HBM et la capacité pour la NAND.