Les chinois modifient les RTX 4090D et 4080 Super pour l’IA

0

Il a été rapporté que certaines entreprises chinoises qui administrent des serveurs dédiés aux calculs intensifs et à l’IA, modifient des cartes graphiques RTX 4090D et 4080 Super pour augmenter leurs performances. Ces “bricolages” des cartes graphiques RTX 4090D et RTX 4080 SUPER permettent notamment de doubler la mémoire en portant ces versions à respectivement 48 Go et 32 ​​Go de mémoire GDDR6X. Les RTX haut de gamme permettent de faire tourner des modèles d’IA élaborés mais rapidement, la mémoire devient leur goulet d’étranglement. Ces cartes “boostées” sont destinées à l’entraînement de modèles linguistiques volumineux et d’autres modèles d’IA générative nécessitant une puissance de calcul et une capacité mémoire considérables.

Modifications des RTX 4090D et 4080 Super : plus vraiment du bricolage.

Une question devient cependant importante : devant la recrudescence de ces “modding”, on en vient à s’interroger sur la manière dont ces cartes sortent des ateliers. En effet, il semble qu’on dépasse le simple cadre du bricolage car après tout, des amateurs qui modifient des cartes, cela ne date pas d’hier. Mais pour équiper en masse des centres de données, ces modifications doivent être réalisées à un stade quasi industriel. La RTX 4090D prend normalement en charge seulement 12 modules mémoire. Dans ces conditions il est difficile donc d’étendre sa capacité. Mais il est possible d’utiliser le PCB d’une RTX 3090 Ti, qui prend en charge 24 modules, associé au GPU AD102 de la RTX 4090D. Cela permet de doubler la capacité mémoire. En d’autres termes, avoir accès aux GPU et utiliser un PCB personnalisé de RTX 3090 Ti avec un GPU AD102 pour réaliser cette amélioration, ce n’est pas à la portée de simples amateurs. Etonnamment aucune photo ou fuite ne permet d’identifier l’origine des PCB…

C’est avec ces modifications que la Chine peut contourner les barrières et étendre ses capacités de calcul IA dans le pays. Dans ces conditions, la carte graphique RTX 4090D de Nvidia, qui contourne les sanctions, devient encore plus attrayante en Chine. En effet, pour avoir un accès à 48 Go de mémoire, il faut logiquement s’équiper de cartes professionnels coûteuses mais surtout frappées par l’embargo. Les modifications deviennent donc pertinentes à conditions d’avoir accès à des PCB et des capacités techniques…ça tombe bien c’est en Chine que sont localisées la majorité des usines des marques de cartes graphiques.