Buena base de hardware, plataforma de software no (todavía) al nivel.
El hardware hace el trabajo. La stack logicielle, en cambio, está por debajo de lo que se espera dado el precio.
La base Ubuntu está bien, pero el soporte dARM para los distintos dockers da problemas con regularidad.
Al pedir uno, te das cuenta de que a menudo haría falta un segundo para ejecutar modelos recientes con un número de token /s decente.
En cambio, es diminuto y prácticamente totalmente silencioso. Todavía no he tenido la ocasión de probar la conectividad en fibra.
Asus hace lo mejor en relación calidad / precio para los GB10. Nada que decir sobre el NVM por el momento, y siempre es posible cambiarlo si realmente hace falta un 2 o 4 TB (aunque con un 10GB/s un almacenamiento externo sirve).
Estamos lejos del "plug and play" que vende nvidia; solo para finalizar la instalación del docker / containerd son unas horas, así que de ahí a vender finetuning de modelos grandes, agárrense un poco.
