IALe jour
Puces : pourquoi tout le monde parle de mémoire HBM
Dans les serveurs d’IA, le calcul n’est pas le seul goulet d’étranglement. La mémoire empilée au plus près du processeur est devenue une pièce maîtresse.
Quand on parle de puces pour l’IA, on pense aux processeurs graphiques. On parle moins de ce qui les entoure : la mémoire à haute bande passante, ou HBM.
Le principe : empiler plusieurs couches de mémoire et les placer au plus près du processeur, pour lui fournir les données assez vite. Car un processeur surpuissant qui attend ses données ne sert à rien.
Fabriquer cette mémoire est difficile, et une poignée d’industriels seulement la maîtrisent. D’où des capacités de production réservées longtemps à l’avance et un rapport de force inédit pour les fabricants de mémoire, longtemps considérés comme un métier cyclique et peu glamour.
Pourquoi c’est important : pour suivre la chaîne de valeur de l’IA, il ne suffit plus de regarder les concepteurs de puces. Les fournisseurs de mémoire et les spécialistes de l’assemblage avancé en sont devenus des maillons décisifs.