Le Ryzen AI Halo d’AMD rivalise avec le DGX Spark, mais la rareté de la RAM freine ses performances

AMD a lancé son Ryzen AI Halo à 3 999 dollars, un mini-PC taillé pour l’inférence locale de modèles de langage. Ce système embarque 128 Go de mémoire unifiée LPDDR5x, de quoi rivaliser directement avec le DGX Spark de NVIDIA. Mais voilà : la pénurie de RAM a fait flamber les prix, et l’argument du rapport qualité-prix s’effrite.

Bon, j’ai testé la bête sur le papier, parce que le bousin coûte un rein. Mais pour qui fait du dev d’intelligence artificielle sans vouloir dépendre du cloud, c’est prometteur. Y’a des jours où je me demande si le cloud, c’est pas juste le PC des autres.

Ryzen AI Halo vs DGX Spark : les specs qui comptent

Le Ryzen AI Halo est bâti sur le SoC Strix Halo, avec son processeur Ryzen AI Max+ 395 à 16 cœurs Zen 5. Côté GPU, on a une Radeon 8060S RDNA 3.5. Le tout tient dans 120 W, ce qui est sobre par rapport au DGX Spark.

NVIDIA propose son Spark à 4 699 dollars, avec un processeur Grace ARM et un réseau ConnectX-7 à 200 Gbps. Mais là où le Halo marque des points, c’est sur la performance mémoire : 128 Go unifiés, soit 256 Go/s de bande passante.

Pour une comparaison rapide, le DGX Spark est meilleur en clustering réseau, mais le Ryzen AI Halo offre plus de mémoire partagée pour les modèles lourds. Moi, je préfère la mémoire brute aux fils de cuivre.

En pratique, le Ryzen AI Halo peut fine-tuner un modèle 7B nécessitant 100 Go de mémoire. Une RTX 5090 avec ses 32 Go de VRAM ne pourrait pas. C’est là que la performance mémoire fait la différence.

Mais attention, la bande passante de 256 Go/s reste en deçà d’une carte graphique dédiée. Pour l’inférence, ça passe. Pour l’entraînement lourd, c’est moins idéal.

NVIDIA mise sur des processeurs ARM et un réseau ultra-rapide pour le clustering. AMD fait le pari de la simplicité et de la capacité mémoire. Chacun son approche, mais moi je trouve celle d’AMD plus pragmatique pour un dev solo.

128 Go de RAM : l’atout majeur qui coûte cher

C’est le cœur du système. Avec 128 Go de mémoire vive partagée, vous pouvez charger des modèles jusqu’à 200 milliards de paramètres. Pas besoin de VRAM dédiée, tout tient dans la RAM unifiée.

Mais cette abondance a un prix. La rareté de la DRAM a doublé le coût par rapport à l’année dernière. Y’a un an, un système équivalent coûtait 2 000 dollars. Maintenant, c’est le double.

Un écosystème logiciel qu’un admin sys peut aimer

AMD mise sur l’open source. Le Ryzen AI Halo livre une Debian personnalisée avec kernel 6.18 et ROCm 7.13. ComfyUI, vLLM, tout est préinstallé. Pour un admin sys comme moi, c’est du bonheur.

Bon, si vous préférez Windows 11, c’est possible aussi. Mais franchement, pour l’inférence locale, Linux reste le choix le plus stable. Et AMD a fait l’effort de fournir des playbooks bien foutus.

Pour le développement en intelligence artificielle locale, ROCm est un bon choix. Pas de driver propriétaire à chasser, pas de surprise. C’est rare de voir une grosse boîte livrer du matos avec un environnement complet.

Pénurie de DRAM : le vrai frein

Le processeur et les specs sont attractifs, mais le prix final dépend de la disponibilité des puces mémoire. La rareté de la DRAM a fait grimper les coûts de production. AMD n’a pas pu maintenir son tarif initial.

Résultat des courses : le Ryzen AI Halo coûte 3 999 dollars, soit le double de ce qu’il aurait dû coûter. À ce prix-là, le DGX Spark n’est plus beaucoup plus cher. La comparaison devient serrée.

Et pourtant, c’est un outil solide pour les développeurs qui ont besoin de mémoire massive sans passer par le cloud. Mais faut être prêt à mettre le prix. Moi, j’attendrais que la pénurie se calme avant de craquer.

AMD prévoit une version avec le Ryzen AI Max 400 « Gorgon Halo », ce qui laisse espérer une baisse des coûts. En attendant, le Ryzen AI Halo reste une machine de niche pour les puristes de l’inférence locale. Pas pour le grand public, mais pour ceux qui compilent leurs propres modèles.

Source: www.clubic.com