Grâce à son futur pilote, le RADEON Software 25.8.1, AMD améliorera les capacités de traitement de l’intelligence artificielle avec ses processeurs Strix Halo. On parle d’une gestion de LLM (Large Language Model) de 128B de paramètres, le tout localement. Idem, les rouges améliorent la taille de contexte possible : jusqu’à 25 6000 tokens !
AMD permet de faire tourner des LLM de 128B de paramètres localement !
Avec ce nouveau pilote graphique, via la fonction Variable Graphics Memory, on pourra décupler la quantité de RAM disponible pour l’iGPU. Dans ce contexte, on pourra allouer jusque 96 Go de mémoire pour cette dernière afin de booster les performances en intelligence artificielle. Dès lors, il sera tout à fait possible de faire fonctionner des modèles avec 128 milliards de paramètres localement. Par exemple, Mistral Large 123B pourra fonctionner directement depuis votre PC, idem pour Llama 4 Scout 109B (17B actifs).
Idem, autre amélioration à prendre en compte, le support de contextes plus larges. Beaucoup plus large même puisque les 25 6000 tokens seront supportés contre 4 096 habituellement. Ceci permettra la gestion de conversations beaucoup plus longues sans « oubli ». Idem, cela permet aussi le traitement de document beaucoup plus important.
Bien entendu, la condition sous-jacente pour profiter de tout ceci : être équipé d’une machine avec du matériel Strix Halo. Ces dernières ne sont pas encore largement disponibles et les premières machines coûtent très cher. On pense notamment aux PC de Corsair AI Workstation 300 dont les prix d’appel commencent à partir de 1 599,99 $ comme dit un peu plus tôt ce matin.
Si NVIDIA a clairement pris l’ascendant dans le secteur de l’IA grâce à ses cartes graphiques, AMD pourrait bien remporter une bataille sur le secteur des CPU. De là, nous attendons la réponse d’Intel. Pour l’instant, AMD semble frapper fort dans ce secteur en pleine croissance.