SupermicroAS-1115CS-TNR-01-G2

Cuando muchas GPU leen a la vez de un sistema de ficheros paralelo, el atasco suele estar en el aluvión de operaciones pequeñas de metadatos, y este es el nodo para atenderlas dentro de un clúster de almacenamiento para IA: cuatro puertos de 200G para hablar con las GPU y con los nodos de datos, y 64 núcleos de frecuencia alta. Las ConnectX-7 son VPI, lo que significa que cada puerto trabaja como Ethernet o como InfiniBand.

Fuera de ese papel no es la mejor compra. Un único NVMe de 960 GB y 6 GB de memoria por núcleo no la hacen buena para virtualización general, y para cómputo general encaja mejor la AS-1126HS-TN-01 o, si basta con una máquina de entrada, su hermana -02. Antes de pedirla hay que saber qué sistema de almacenamiento va a correr y sobre qué red, porque de eso dependen el modo de los puertos y el cableado.

Lo que hacemos nosotros

La montamos como servidor de metadatos o pasarela de Ceph, con MDS (el servidor de metadatos de CephFS) o con RGW (la pasarela que da acceso S3 a Ceph), en clústeres que sirven datos a GPU. Va con RHEL o Ubuntu, los controladores de las ConnectX-7 y la red RDMA (acceso directo a la memoria de otro equipo sin pasar por su CPU) configurada de extremo a extremo, desde el nodo hasta el conmutador.