LenovoThinkSystem SR680a V4

La placa NVIDIA HGX B300 con ocho GPU Blackwell Ultra de 288 GB, dos Intel Xeon 6 y ocho puertos de 800 Gb/s, en un 8U que se refrigera por aire. Es el servidor de Lenovo para entrenar y servir modelos grandes sin llevar agua al CPD.

Lenovo ThinkSystem SR680a V4Rack 8U

Qué lleva

La placa HGX es fija; lo que se configura son procesadores, memoria, discos y red. Estos son sus límites según la guía de Lenovo. Guía de producto en Lenovo Press

Procesador2 Intel Xeon 6Serie 6700P · hasta 86 núcleos y 350 W
GPUNVIDIA HGX B3008 GPU de 288 GB HBM3e · NVLink a 1,8 TB/s
MemoriaHasta 4 TB32 ranuras DDR5 · 6400 MHz con un módulo por canal
Almacenamiento8 NVMe de 2,5"PCIe 5.0 · arranque en 2 M.2 con RAID
Red8 puertos OSFP de 800 Gb/sConnectX-8 integradas, con GPU Direct
FormatoRack 8UToda la conexión en el frontal
Alimentación
Ocho fuentes Titanium: 3.200 W en N+1 o 3.800 W en N+N
Refrigeración
Por aire: 6 ventiladores delanteros y 15 traseros para las GPU
Gestión
XClarity Controller 3, con la licencia Premier incluida
Sistemas
RHEL 9.6 y Ubuntu 24.04 LTS
Garantía
3 años, con técnico in situ al siguiente día laborable

Entrenar y servir modelos muy grandes

Las ocho GPU van en la misma placa y se hablan por NVLink a 1,8 TB/s, así que un modelo repartido entre todas trabaja casi como si estuviera en una sola. Es lo que pide entrenar o ajustar modelos grandes, o servir uno de cientos de miles de millones de parámetros a mucha gente a la vez.

Las ocho conexiones de 800 Gb/s con GPU Direct sirven para unir varias SR680a V4 en un clúster. Para una sola máquina sobran, pero si el proyecto va a crecer conviene tenerlas desde el principio.

Lo que hacemos nosotros

La entregamos con RHEL 9.6 o Ubuntu 24.04, que son los sistemas que certifica Lenovo para este modelo, con los controladores de NVIDIA y NCCL. Para entrenar con varios nodos montamos Slurm; para servir modelos, Kubernetes con el GPU Operator y vLLM. Y dejamos lista la red de 800 Gb/s y el almacenamiento que alimenta a las GPU, porque si se queda corto las ocho B300 pasan el tiempo esperando datos.

La placa de GPU

GPUMemoriaCuántas
NVIDIA B300 (HGX B300)288 GB HBM3e8, a 1.100 W cada una

La placa HGX B300 lleva siempre las ocho GPU.

Qué necesita tu CPD

Es lo que más hay que planificar. Ocupa 8U, lleva ocho fuentes de 3.200 W, o de 3.800 W en alta tensión, y cada GPU puede consumir hasta 1.100 W. Se refrigera por aire con quince ventiladores traseros solo para las GPU, así que el rack necesita mucha potencia y un pasillo frío que aguante ese calor. Antes de cerrar nada revisamos contigo la potencia por rack, las PDU, las tomas y la refrigeración.

Frente al resto de la familia

ModeloLo que llevaCuándo elegirlo
ThinkSystem SR650a V4Hasta 4 RTX PRO 6000 · Intel Xeon 6La de entrada: de una a cuatro GPU en 2U, con Intel.
ThinkSystem SR675 V3Hasta 8 GPU PCIe · AMD EPYCHasta ocho GPU con AMD, para varios modelos o equipos a la vez.
ThinkSystem SR680a V3 con B200NVIDIA HGX B200 · 8 GPULa HGX anterior, también por aire, cuando el plazo o el presupuesto mandan.
ThinkSystem SR780a V3NVIDIA HGX B200 · refrigeración líquidaLas mismas ocho B200 en 5U, si tu CPD tiene circuito de agua.
ThinkSystem SR665 V34 RTX PRO 4500 · AMD EPYCEl punto de entrada de Lenovo para inferencia, con la configuración Hybrid AI 241.

Ver todos los servidores IA y GPU de Lenovo

Qué incluye la entrega

De fábrica

  • Servidor configurado por Lenovo
  • Garantía de 1 o 3 años según el modelo, con técnico in situ al siguiente día laborable

De nuestra parte

  • Dimensionado de GPU, memoria y red con tu modelo
  • Montaje en el rack, XClarity y firmware al día
  • Sistema operativo, controladores de NVIDIA y la pila de IA
  • Pruebas con tu carga antes de pasar a producción

Si lo necesitas

  • Guardia 24×7 con SLA
  • Ampliación de la garantía de Lenovo: respuesta en 4 o 2 horas, o uno o dos años más

Preguntas sobre la ThinkSystem SR680a V4

¿Qué diferencia hay con la SR680a V3 con B200?

Las dos son 8U por aire con ocho GPU en placa HGX. La SR680a V4 monta la B300, con 288 GB por GPU frente a 180 GB, procesadores Intel Xeon 6 en lugar de Xeon de 5.ª generación y red de 800 Gb/s integrada. La V3 con B200 es la opción cuando el plazo o el presupuesto mandan.

¿Necesito refrigeración líquida?

No, va por aire, pero concentra mucho calor: ocho GPU de hasta 1.100 W. Si tu CPD tiene circuito de agua, la SR780a V3 mete ocho B200 en 5U con refrigeración líquida.

¿Qué sistemas operativos admite?

Lenovo la certifica con Red Hat Enterprise Linux 9.6 y Ubuntu 24.04 LTS. Son los que instalamos, con los controladores de NVIDIA y la pila de IA que necesites.

¿Tu proyecto pide una HGX B300?

Cuéntanos qué modelo quieres entrenar o servir y qué CPD tienes, y te devolvemos la configuración, lo que necesita la sala y el plazo confirmado.