Servidores IA Lenovo con GPU NVIDIA
Servidores ThinkSystem para tener tus modelos de IA en tu propio CPD, con los datos dentro de tu red: desde un 2U con hasta cuatro RTX PRO 6000 Blackwell hasta la HGX B300 de ocho GPU.
ThinkSystem SR680a V4Elige por lo que vas a hacer
Inferencia, RAG y agentes
GPU por PCIe: de una a ocho RTX PRO 6000 según cuántos modelos y usuarios tengas. Las dos tienen versión cerrada, la SR650i V4 y la SR675i V3.
Entrenar o servir modelos muy grandes
Placas HGX con ocho GPU unidas por NVLink. Por aire en 8U, o en 5U con refrigeración líquida si tu CPD tiene circuito de agua.
Empezar con lo justo
La configuración Hybrid AI 241 de Lenovo: cuatro RTX PRO 4500 de 32 GB para inferencia en uno o pocos nodos.
Antes de pedir precio
Cuánta memoria de GPU necesitas
Cada mil millones de parámetros ocupan unos 2 GB de GPU en 16 bits y 1 GB en 8 bits, más el contexto de cada conversación abierta. Un modelo de 70.000 millones en 8 bits cabe en una sola RTX PRO 6000 de 96 GB.
Qué necesita tu CPD
Una SR650a V4 se alimenta con dos fuentes de hasta 3.200 W y entra en un rack estándar con pasillo frío. Las HGX piden mucho más: la SR680a V4 lleva ocho fuentes de 3.200 W y quince ventiladores traseros solo para las GPU, y la SR780a V3 retira con agua templada hasta el 75 % del calor, así que necesita un circuito de refrigeración líquida en la sala. Por eso, antes de cerrar nada, revisamos contigo la potencia por rack, las PDU y la refrigeración que tienes.
Comparativa
| Modelo | GPU | Procesador | Memoria máx. | Formato | Refrigeración |
|---|---|---|---|---|---|
| ThinkSystem SR650a V4 | Hasta 4 RTX PRO 6000 (96 GB) a 450 W, o 2 a 600 W; también H200 NVL y L40S | 1 o 2 Intel Xeon 6, hasta 86 núcleos | 8 TB | 2U | Aire |
| ThinkSystem SR675 V3 | Hasta 8 RTX PRO 6000, H200 NVL o L40S | 1 o 2 AMD EPYC 9005 o 9004, hasta 160 núcleos | 6 TB | 3U | Aire |
| ThinkSystem SR680a V4 | NVIDIA HGX B300: 8 GPU de 288 GB con NVLink | 2 Intel Xeon 6, hasta 86 núcleos | 4 TB | 8U | Aire |
| ThinkSystem SR680a V3 con B200 | NVIDIA HGX B200: 8 GPU de 180 GB con NVLink | 2 Intel Xeon de 5.ª generación, hasta 64 núcleos | 4 TB | 8U | Aire |
| ThinkSystem SR780a V3 | NVIDIA HGX B200 (8 GPU de 180 GB) o HGX H100 | 2 Intel Xeon de 5.ª generación, hasta 64 núcleos | 4 TB | 5U | Líquida (Neptune) |
| ThinkSystem SR665 V3 | 4 RTX PRO 4500 Blackwell (32 GB) en la configuración Hybrid AI 241 | 1 o 2 AMD EPYC 9005 o 9004, hasta 160 núcleos | 6 TB | 2U | Aire |
Por qué comprarlo con nosotros
El servidor llega instalado y probado con tu modelo, y si un día falla llamas al mismo equipo que lo puso en marcha.
Partimos del modelo que vas a usar, la longitud de contexto y cuántas personas lo van a usar a la vez, y de ahí sale cuántas GPU hacen falta y de qué tipo. Si con dos RTX PRO 6000 basta, no te proponemos una HGX.
La montamos en el rack, configuramos XClarity y el firmware, e instalamos RHEL, Ubuntu o SLES con los controladores de NVIDIA y lo que vaya encima: Kubernetes con el GPU Operator, OpenShift AI o vLLM sirviendo el modelo, probado con tu carga antes de pasar a producción.
Cuando algo falla hablas con las personas que pusieron en marcha esa máquina, y si lo necesitas hay guardia 24×7 con SLA por contrato. Es el mismo soporte independiente que damos a parques de IBM Power, Linux y Ceph.
Somos IBM Business Partner y partners de Red Hat, SUSE, Canonical y CIQ. Con CIQ instalamos Rocky Linux para IA, con el controlador de NVIDIA y CUDA ya probados, en los mismos servidores.
Atendemos en los tres idiomas, también en el soporte, así que si tu empresa tiene equipos en varios países te atiende el mismo grupo de ingenieros.
Cómo lo montamos
Lo que va encima de estos servidores, contado en detalle:
Soporte y formación para tu equipo
Preguntas frecuentes
¿Qué diferencia hay entre un servidor con GPU PCIe y uno HGX?
En los servidores PCIe, como la SR650a V4 o la SR675 V3, cada GPU es una tarjeta independiente y se comunica con las demás a través del bus del servidor. En los HGX, como la SR680a V4, las ocho GPU van montadas en una misma placa y se hablan por NVLink, mucho más rápido. Para servir modelos medianos basta PCIe; para entrenar o servir modelos muy grandes repartidos entre todas las GPU, compensa HGX.
¿Qué son la SR650i V4 y la SR675i V3?
Son configuraciones cerradas de Lenovo sobre la SR650a V4 y la SR675 V3. La SR650i lleva dos RTX PRO 6000 y 512 GB de memoria; la SR675i, ocho RTX PRO 6000 y 1,5 TB. No se pueden cambiar las piezas principales, pero se piden como un solo paquete y vienen con tres años de garantía.
¿Puedo sumar la memoria de varias GPU?
No como si fuera una sola. Un modelo se puede repartir entre varias GPU con vLLM u otro servidor de inferencia, pero cada GPU tiene su memoria y el reparto tiene un coste en comunicación, mayor por PCIe que por NVLink. Lo comprobamos con tu modelo antes de proponerte una configuración.
¿Compensa frente a alquilar GPU en la nube?
Depende de cuántas horas al mes vayan a estar trabajando las GPU y de si los datos pueden salir de tu red. Para un piloto de unas semanas, alquilar suele salir mejor; para un servicio que va a estar en marcha todos los días durante años, o con datos que no pueden salir de tu CPD, compensa tener el servidor. Hacemos la cuenta contigo con tu uso real.
¿Tenéis precio de catálogo?
No, porque el precio depende de la GPU, la memoria, los discos, la red y la garantía que elijas, y de cómo esté el suministro de GPU en ese momento. Te pasamos presupuesto con el plazo confirmado para la configuración que te encaje.
¿Cuál encaja con lo que vas a montar?
Cuéntanos qué modelo quieres ejecutar, para cuánta gente y en qué CPD, y te devolvemos la configuración, el precio y el plazo confirmado.
Blog!
Nuestra mision
SIXE garantiza que tus infraestructuras basadas en tecnologías IBM®, Red Hat®, Canonical® y SUSE® permanezcan estables, seguras y optimizadas durante todo el tiempo que las necesites.
En SIXE, nos comprometemos con la sostenibilidad. Por eso te ayudamos a diseñar, implementar y mantener soluciones tecnológicas duraderas y eficientes.
