À l’occasion de la conférence Hot Chips 2026, Samsung a officiellement présenté sa première mémoire LPDDR5X-PIM. Cette technologie intègre directement des unités logiques au sein du standard de mémoire basse consommation, marquant une évolution majeure par rapport aux démonstrations antérieures basées sur des piles HBM.
Une architecture PIM native pour la bande passante
Le concept de Processing-in-Memory (PIM) permet d’exécuter des calculs de base directement dans la mémoire, évitant ainsi que le processeur ne constitue un goulot d’étranglement. Samsung a mis au point une architecture où chaque banque de mémoire possède sa propre unité PIM. Cette approche diffère des solutions HBM-PIM précédentes qui nécessitaient de découper les banques pour y intégrer la logique.
La mémoire utilise des registres d’échelle et de source pour alimenter des arbres de multiplication-accumulation (MAC) en parallèle. Une fois les calculs effectués, les résultats sont stockés dans un registre vectoriel. Le module conserve la compatibilité avec les contrôleurs DRAM traditionnels tout en permettant un mode multi-banque dédié aux opérations PIM.
Un défi majeur était la réorganisation des données par rapport aux contrôleurs DRAM conventionnels. Samsung a résolu ce problème grâce à son mode d’alignement d’adresse (AAM), qui associe les adresses DRAM à des instructions MAC et attribue les adresses des registres vectoriels et de source en fonction des adresses de lecture et de colonne.
Des performances record en inférence IA
[affilizz-publication id= »sxkwttp »]
Les spécifications techniques de la LPDDR5X-PIM sont impressionnantes. Le module utilise un package à 561 broches, deux rangées de 64 bits et 16 Go de capacité. La bande passante est le point fort de cette innovation : alors que la LPDDR5X-9600 offre un pic de 76,8 Go/s, la version PIM atteint 614 Go/s, soit une multiplication par huit.
Cette augmentation massive s’explique par la réduction du mouvement des données et le maintien de la logique locale. Dans les premiers benchmarks, la mémoire a démontré une amélioration d’un facteur 2,28 du temps d’exécution des modèles et une hausse d’un facteur 3,01 du nombre de tokens par seconde lors de tests d’inférence avec Llama 3.1 (8 milliards de paramètres).
Concernant la consommation d’énergie, Samsung indique qu’elle ne s’attend pas à une augmentation globale par rapport à la DRAM conventionnelle. Bien que la consommation en pointe soit plus élevée en raison des pics de puissance du PIM, la réduction du nombre de transferts de données entre la mémoire et l’hôte devrait compenser cet effet, selon Karam Hwang de Samsung.
À terme, Samsung vise des applications dans les serveurs, les systèmes clients et les appareils mobiles, accélérant l’IA en périphérie sur les appareils mobiles et les accélérateurs d’entrée de gamme comme Crescent Island.