SupermicroSYS-422GA-NRT-02-G2
Ocho NVIDIA RTX PRO 6000 Blackwell con 768 GB de memoria de GPU, dos Xeon de 72 núcleos, 1,5 TB de DDR5 y red de 200 y 400 GbE, todo en 4U y sin pasar al formato HGX.
Rack 4U · Gold Series G2La configuración exacta
- Garantía
- 3 años de piezas y mano de obra
- Técnico in situ
- Opcional: al siguiente día laborable, durante 3 años
Ocho GPU para modelos grandes sin dar el salto a HGX
Con 768 GB de memoria de GPU caben modelos de varios cientos de miles de millones de parámetros en 8 bits, o varios modelos medianos sirviéndose a la vez, que es como acaban muchas plataformas internas cuando cada departamento quiere el suyo. A diferencia de la -01, esta viene con la red preparada para salir del chasis: una tarjeta de 200 GbE y dos de 400 GbE que sirven para leer los modelos y los datos desde un almacenamiento compartido y para unir dos o más nodos cuando el servicio necesite redundancia.
El límite está en cómo se hablan las GPU. Las ocho cuelgan de conmutadores PCIe 5.0, sin la malla NVLink de una HGX B300, y para inferencia eso apenas pesa, pero en un entrenamiento distribuido o en un modelo enorme repartido entre las ocho la comunicación entre tarjetas se convierte en el cuello de botella. Si tu plan es entrenar modelos propios desde cero, mira antes la SYS-822GS-NB3RT-01-G2.
Lo que hacemos nosotros
La montamos con RHEL u Ubuntu, el GPU Operator y Kubernetes u OpenShift AI, con vLLM sirviendo cada modelo en su grupo de GPU, y conectamos los puertos de 200 y 400 GbE a tu almacenamiento o a un clúster Ceph que también podemos montar. Si después prefieres no depender del fabricante para el mantenimiento, te damos soporte independiente con guardia 24×7 por contrato.
Qué necesita tu CPD
Mismo chasis de 4U y 737 mm de fondo que la -01. Según la ficha oficial lleva cuatro fuentes de 3.200 W Titanium en redundancia 3+1, y con las ocho GPU instaladas la máquina trabaja mucho más cerca de esa capacidad que su hermana, así que el reparto de circuitos y la potencia por rack son lo primero que revisamos. Se refrigera por aire con diez ventiladores de 8 cm, y un rack con varias de estas necesita pasillo frío confinado.
Frente al resto de la familia
| Modelo | Lo que lleva | Cuándo elegirlo |
|---|---|---|
| SYS-822GS-NB3RT-01-G2 | HGX B300 8-GPU · 2 TB | La HGX B300 con Intel; la opción si tu estándar es Xeon. |
| AS-8126GS-NB3RT-01-G2 | HGX B300 8-GPU · 3 TB | Misma HGX B300 con AMD, 3 TB y red de almacenamiento aparte. |
| AS-5126GS-TNRT-01-G2 | 2x RTX PRO 6000 · 1,5 TB | Dos GPU hoy, hueco para ocho y memoria de sobra. |
| SYS-212GB-FNR-01-G2 | 2x RTX PRO 6000 · 512 GB | La más compacta: 2U para un servicio de dos GPU. |
| SYS-422GA-NRT-01-G2 | 4x RTX PRO 6000 · 1 TB | Cuatro GPU que MIG reparte en hasta dieciséis instancias para varios equipos. |
| SYS-C542i-11302U | Lista para RTX 50 · 32 GB | Torre de desarrollo sin GPU de serie; eliges tú la tarjeta. |
| ARS-511GD-NB-LCC-01-G2 | Grace + B300 · 748 GB | Un nodo GB300 en torre para el equipo que ajusta modelos sin reservar clúster. |
Qué incluye la entrega
De fábrica
- Configuración montada y probada por Supermicro
- Garantía de 3 años de piezas y mano de obra
De nuestra parte
- Montaje en el rack
- Gestión remota (BMC) y firmware al día
- Sistema operativo y la pila que vaya encima
- Pruebas con tu carga antes de pasar a producción
Si lo necesitas
- Guardia 24×7 con SLA
- Técnico in situ al siguiente día laborable durante los 3 años
Cómo lo montamos
Lo que va encima de estos servidores, contado en detalle:
Soporte y formación para tu equipo
Preguntas sobre la SYS-422GA-NRT-02-G2
¿Cuándo compensa una HGX B300 en lugar de esta?
Cuando vas a entrenar modelos grandes o a servir uno que no cabe en 768 GB. La HGX B300 suma unos 2,3 TB de HBM3e y une las ocho tarjetas por NVLink, mucho más rápido que PCIe para el tráfico entre GPU, pero exige 8U y, según su ficha oficial, seis fuentes de 6.600 W frente a las cuatro de 3.200 W de esta. Para inferencia de modelos de hasta unos pocos cientos de miles de millones de parámetros, esta suele bastar.
¿Qué modelo de IA cabe en 768 GB?
Con la regla de unos 2 GB por cada mil millones de parámetros en 16 bits y 1 GB en 8 bits, entra un modelo de unos 300.000 millones en 16 bits o uno de más de 500.000 millones en 8 bits, dejando sitio para la caché de contexto. Afinamos la cuenta con el modelo concreto y el número de usuarios que esperas.
¿Para qué sirven los puertos de 200 y 400 GbE?
Para sacar los datos del chasis. La tarjeta de 200 GbE tiene dos puertos, compatibles también con InfiniBand NDR (200 Gb/s), y las dos de 400 GbE uno cada una: con ellos se leen los pesos y los datos desde un almacenamiento compartido como Ceph y se unen dos o más nodos para tener redundancia. Los dos puertos de 10 GbE quedan para la administración.
¿La SYS-422GA-NRT-02-G2 encaja con lo que vas a montar?
Cuéntanos la carga y el CPD donde va a ir, y te devolvemos el precio, el plazo confirmado y lo que haría falta para ponerla en marcha.
Blog!
Nuestra mision
SIXE garantiza que tus infraestructuras basadas en tecnologías IBM®, Red Hat®, Canonical® y SUSE® permanezcan estables, seguras y optimizadas durante todo el tiempo que las necesites.
En SIXE, nos comprometemos con la sostenibilidad. Por eso te ayudamos a diseñar, implementar y mantener soluciones tecnológicas duraderas y eficientes.
