Bonne base matérielle, plateforme logicielle pas (encore) au niveau.
Le matériel fait le job. la stack logicielle est par contre en deça de ce que l'on attend vu le prix.
La base Ubuntu est bien, le support dARM pour les divers dockers posent régulièrement problème par contre.
On en commandant un, on aperçoit qu'il en faudrait régulièrement un deuxième pour faire tourner des modèles récent avec un nombre de token /s décent.
Par contre minuscule et pratiquement complètement silencieux. par encore eu l'occasion de tester la connectique en fibre.
Asus fait ce qui se fait de mieux en rapport qualité / prix pour les GB10. Rien à redire sur le NVM pour l'instant. et toujours possible de changer si jamais il faut vraiment un 2 ou 4 TB (même si avec un 10GB/s un stockage externe fait l'affaire).
On est loin du "plug and play" vendu par nvidia par contre, rien que pour finaliser l'install du docker / containerd c'est quelques heures, alors de là à vendre du finetuning de gros modèles, accrochez-vous un peu.




Consulter la documentation










































