Du côté de la Chine, nous apprenons que la marque Moore Threads est désormais capable de connecter 10 000 cartes dans ses centres de données. L’objectif est simple : alimenter l’intelligence artificielle.
10 000 cartes MTT S4000 dans un data center pour l’IA !
Au programme, nous aurons donc affaire à un d’énormes clusters (regroupement de plusieurs serveurs) totalisant jusqu’à 10 000 cartes. Pour cela, nous retrouvons des ensembles de serveurs MCCX D800 embarquant huit cartes MTT S4000, deux processeurs Xeon de quatrième génération, 1 To de RAM et 15,36 To de stockage sur SSD NVMe. Et pour arriver jusque 10 000 cartes, il faut 1250 de ces machines.
Bien entendu, le but de la manœuvre est de proposer des data centers à destination de l’intelligence artificielle. Ceci permettra d’entrainer divers modèles type LLM tout en gérant des tâches de type inférence.
Maintenant, il faut savoir que la MTT S4000 est une carte à destination des serveurs basés sur l’architecture Musa mise au point par Moore Threads… Les mêmes derrière les MTT S80 et MTT S70. Chaque carte dispose alors de 48 Go de mémoire et de 128 tensor core, soit un total de 1 280 000 tensor core dans un cluster de 10 000 cartes. Enfin, pour la communication entre les cartes, nous retrouvons un lien propriétaire MTLink offrant une bande passante de 768 Go/s.
Cependant, l’avenir reste incertain pour la marque puisque les sanctions américaines empêchent l’entreprise d’avoir accès à des process de gravure avancés. Bien sûr, l’entreprise peut toujours se tourner vers SMIC, mais les dernières rumeurs indiquent des coûts élevés et des disponibilités limités également. C’est d’autant plus dommage que l’entreprise est parvenue à lever $343,7 millions dans un récent cycle de financement tandis que l’entreprise sécurise des partenariats avec des entreprises majeures de la télécom chinoise.