Dell Technologies (NYSE: DELL) expande el portafolio más amplio de soluciones de IA generativa (GenAI) del mundo con adiciones a Dell AI Factory, enfocadas en entornos AMD. Estas soluciones ofrecen a las empresas capacidades de IA mejoradas, incluyendo mayor escalabilidad y flexibilidad, para mantenerse competitivas en el cambiante escenario tecnológico.

"Integrando la tecnología AMD en los más recientes servidores, soluciones y servicios de IA de Dell a través de Dell AI Factory, estamos proporcionando el rendimiento y las eficiencias que las empresas necesitan hoy y en el futuro", dijo Arthur Lewis, presidente del Grupo de Soluciones de Infraestructura de Dell Technologies. "Junto con AMD, estamos estableciendo nuevos estándares de rendimiento en IA, ofreciendo a las empresas soluciones poderosas y económicas, esenciales para entornos modernos orientados por datos."

"Nuestros procesadores AMD EPYC más recientes y los aceleradores Instinct proporcionan a los clientes de Dell soluciones end-to-end avanzadas, a escala, que acelerarán las implementaciones de IA e impulsarán la infraestructura de TI crítica para los negocios", dijo Forrest Norrod, vicepresidente ejecutivo y gerente general del Grupo de Soluciones de Centro de Datos de AMD. "Nuestra larga colaboración con Dell continúa ofreciendo soluciones de vanguardia que ayudan a mejorar la eficiencia operativa y reducir el tiempo de retorno sobre la inversión, fomentando la innovación en sectores altamente competitivos."

Nuevos servidores Dell PowerEdge soportan cargas de trabajo exigentes de IA a escala

Las adiciones al portafolio Dell PowerEdge soportan una amplia gama de casos de uso de IA y cargas de trabajo tradicionales, simplificando la gestión y la seguridad de los servidores. Las plataformas proporcionan soluciones personalizables y eficientes que simplifican la gestión y soportan cargas de trabajo de alto rendimiento para empresas modernas:

• Diseñado para cargas de trabajo de IA empresarial, el Dell PowerEdge XE7745 soporta hasta ocho GPU de doble ancho o 16 GPU de ancho simple PCIe con procesadores AMD EPYC de 5ª generación en un chasis de 4U refrigerado por aire. Construido para inferencia de IA, ajuste de modelos y computación de alto rendimiento, las ranuras de GPU internas están emparejadas con ocho ranuras PCIe Gen 5.0 adicionales para conectividad de red, creando configuraciones densas y flexibles con 2x más capacidad de GPU DW PCIe.¹
• Los servidores PowerEdge R6725 y R7725 están optimizados para escalabilidad con procesadores AMD EPYC de 5ª generación de alto rendimiento. El nuevo diseño de chasis DC-MHS permite refrigeración por aire mejorada y CPUs duales de 500W, enfrentando desafíos térmicos para potencia y eficiencia.² Estas plataformas soportan cargas de trabajo rigurosas de análisis de datos e IA, con configuraciones optimizadas para escalabilidad, ofreciendo rendimiento récord para cargas de trabajo como virtualización, bases de datos e IA.³ El R7725 ofrece hasta un 66% de aumento de rendimiento y hasta un 33% de aumento de eficiencia en la línea superior.⁴

Todas las tres plataformas pueden soportar hasta un 50% más de núcleos, con hasta un 37% de aumento de rendimiento por núcleo, resultando en mayor rendimiento, eficiencia y mejor Costo Total de Propiedad (TCO).⁵ Estas mejoras consolidan hasta siete servidores de 5 años en un servidor actual, resultando en hasta un 65% menos consumo de energía de la CPU.⁶

• Los servidores PowerEdge R6715 y R7715 con procesadores AMD EPYC de 5ª generación ofrecen mayor rendimiento, eficiencia y hasta un 37% más de capacidad de unidad, resultando en mayor densidad de almacenamiento.⁷ Disponibles en varias opciones de configuración, los servidores de socket único soportan el doble de memoria con soporte para 24 DIMMs (2DPC) y cumplen con diversos requisitos de carga de trabajo, maximizando el rendimiento en chasis compactos de 1U y 2U.⁸ El R6715 presenta rendimiento récord mundial para tareas de IA y virtualización.⁹

Para clientes que implementan IA a escala, Dell Technologies también continuará ofreciendo soporte a todos los más recientes aceleradores AMD Instinct en servidores Dell PowerEdge XE.

Los equipos de TI pueden monitorear, gestionar y actualizar remotamente los servidores Dell PowerEdge con el Controlador de Acceso Remoto Integrado de Dell (iDRAC) actualizado. Con un procesador más rápido, memoria aumentada y coprocesador de seguridad dedicado, el iDRAC simplifica la gestión y la seguridad de los servidores, permitiendo a los equipos de TI responder con mayor confiabilidad y eficiencia.

"Las soluciones proporcionadas por Dell Technologies y AMD para OSF Healthcare nos permiten ofrecer mejores servicios a nuestros clínicos y pacientes, reducir nuestros costos generales y ayudar a las comunidades desatendidas. Cuando las vidas de los pacientes dependen de nuestras plataformas, es crucial que nuestros sistemas permanezcan estables y operativos las 24 horas, los 7 días de la semana, los 365 días al año", dijo Joe Morrow, director de Servicios de Tecnología de OSF Healthcare.

Mejoras en Dell AI Factory simplifican y aceleran las implementaciones de IA Generativa

Dell AI Factory está diseñada para soportar diversos requisitos de IA con el portafolio más amplio de soluciones de IA del mundo, desde desktops hasta centros de datos y nubes, permitiendo a las organizaciones dimensionar adecuadamente sus inversiones en IA:

• Soluciones de IA Generativa de Dell con AMD usando el servidor Dell PowerEdge XE9680 con aceleradores AMD Instinct™ MI300X para proporcionar inferencia de IA, generación aumentada por recuperación (RAG) y personalización. La integración simplifica la implementación de IA, mejora la seguridad, permite arquitecturas escalables y modulares y reduce el tiempo de retorno sobre la inversión en hasta un 86%, ayudando a las organizaciones a optimizar sus inversiones en IA.¹⁰
• El Dell Enterprise Hub en Hugging Face ahora soporta el Dell PowerEdge XE9680 con aceleradores AMD Instinct MI300X, proporcionando contenedores personalizados y scripts para fácil implementación segura de modelos como Llama y Mixtral. Estos modelos en contenedor están exclusivamente optimizados para aumentar el rendimiento de inferencia basado en el modelo y servidor y aprovechan el back-end Hugging Face Text Generation Inference (TGI).
• Los Servicios Profesionales de Dell para IA Generativa se están expandiendo para soportar entornos AMD. Nuevos Servicios de Implementación de Dell para la Plataforma GenAI con AMD proporcionan una plataforma operativa personalizada, incluyendo configuración de Kubernetes, implementación de estructuras avanzadas de IA y transferencia de conocimiento al cliente sobre las mejores prácticas para maximizar el retorno sobre la inversión. Desde el desarrollo de la estrategia hasta la preparación de datos, implementación de plataforma y modelo y escalamiento de la solución, los profesionales de Dell ayudan a los clientes a lograr resultados empresariales con IA a lo largo de todo el ciclo de vida.

"Dell Technologies y AMD continúan impulsando la innovación en IA, ofreciendo soluciones y servicios integrales que ayudan a las empresas a modernizar sus centros de datos, mejorar la escalabilidad y utilizar la IA para mejores resultados comerciales", dijo Kuba Stolarski, Research VP de IDC. "Las últimas actualizaciones de Dell AI Factory son el próximo paso en la jornada de Dell para proporcionar soluciones de IA que aumenten la eficiencia y el valor."

Disponibilidad

• El servidor Dell PowerEdge XE7745 estará disponible globalmente a partir de enero de 2025.
• Los servidores Dell PowerEdge R6715, R7715, R6725 y R7725 estarán disponibles globalmente a partir de noviembre de 2024.
• Las Soluciones de IA Generativa de Dell con AMD estarán disponibles globalmente a partir del cuarto trimestre de 2024.
• Las actualizaciones de Dell Enterprise Hub en Hugging Face ya están disponibles globalmente.
• Los Servicios de Implementación de Dell para la plataforma de IA Generativa están disponibles inicialmente en México y Brasil.

Sobre Dell Technologies

Dell Technologies (NYSE: DELL) ayuda a organizaciones e individuos a construir su propio futuro digital y a transformar la manera en que trabajan, viven y se divierten. La empresa ofrece a sus clientes el portafolio de tecnología y servicios más amplio e innovador de la industria para la era de la IA.

1 Basado en el análisis de Dell de las especificaciones del Dell PowerEdge XE7745, que muestra 8 ranuras PCIe Gen5 además de las ranuras para GPU. Comparando el XE7745 con la generación anterior, el Dell PowerEdge R760XA, el XE7745 admite hasta 8 GPUs DW o 16 GPUs SW, mientras que el R760XA admite hasta 4 GPUs DW o 12 GPUs SW. Datos precisos al 02/10/2024.

2 Basado en el análisis de Dell, comparando la CPU principal soportada en el Dell PowerEdge R7725, con procesador AMD EPYC de 5ª generación y 192 núcleos Zen 5c, con la CPU principal soportada en el Dell PowerEdge R7625, que tiene procesadores AMD EPYC de 4ª generación y 128 núcleos Zen 4c. Además, según las especificaciones del Dell PowerEdge R7725, muestra soporte para 2 CPUs de 500W con refrigeración por aire. Datos precisos al 02/10/2024. El rendimiento real puede variar.

3 Basado en los servidores Dell PowerEdge que alcanzaron puntuaciones récord mundiales para VMMark4 (puntuación de 5.17@5.8 tiles con el Dell PowerEdge R7725), SAP-SD (puntuación de 201,000 usuarios con el Dell PowerEdge R6725) y TPCx-AI (Puntuaciones de 720,386 @SF3, 864,593@SF10 y 1,115,609@SF30 con los Dell PowerEdge R6715 y R6725) al 02/10/2024. El rendimiento real puede variar.

4 Basado en el análisis de Dell de las puntuaciones SPECIntRate de la CPU AMD EPYC de 5ª generación 9965, con puntuación de 2980 en el R7725, en comparación con la CPU AMD EPYC de 4ª generación 9754, con puntuación de 1790 en el R7625. Datos precisos al 02/10/2024. El rendimiento real puede variar.

Basado en el análisis de Dell de las puntuaciones SPECIntRate de la CPU AMD EPYC de 5ª generación 9965, con puntuación de 2980, que tiene un cTDP de 500W en el R7725, en comparación con la CPU AMD EPYC de 4ª generación 9754, con puntuación de 1790, que tiene un cTDP de 400W en el R7625. La eficiencia para cada configuración se calcula dividiendo la puntuación SPECInt por el TDP estándar. Datos precisos al 02/10/2024. El rendimiento real puede variar.

5 Basado en el análisis de Dell comparando la SKU principal soportada en el Dell PowerEdge R7725, con procesador AMD EPYC de 5ª generación y 192 núcleos Zen 5c, con la SKU principal soportada en el Dell PowerEdge R7625, con procesadores AMD EPYC de 4ª generación y 128 núcleos Zen 4c. Datos precisos al 02/10/2024. El rendimiento real puede variar.

Basado en el análisis de Dell de las puntuaciones SPECFPRate de la CPU AMD EPYC de 5ª generación 9755, con puntuación de 2270 en el R7725, en comparación con la CPU AMD EPYC de 4ª generación 9754, con puntuación de 1420 en el R7625. Datos precisos al 02/10/2024. El rendimiento real puede variar.

6 Basado en el análisis de Dell comparando las puntuaciones SPECint y SPECFP de la CPU AMD EPYC de 5ª generación 9965 en un Dell R7725 (2980 y 2350) con las mismas puntuaciones de un Intel Xeon 8280 en un Dell PowerEdge R740XD (375 y 296). La proporción de las puntuaciones muestra que 7 servidores R740XD proporcionarían una puntuación total similar a la de un solo R7725 configurado como se indicó. Las CPUs en un solo R7725 tendrían un TDP total de 1000W (2x500W). Las CPUs en 7x R740XDs tendrían un TDP total de 2870W (2x205x7), donde cada Intel Xeon 8280 tiene un TDP de 205W. Esto representa una reducción del 65% en el consumo de energía de la CPU. Datos precisos al 02/10/2024. El rendimiento real puede variar.

7 Basado en el análisis de Dell de las especificaciones que comparan el servidor Dell PowerEdge R67x5 con hasta 22 ranuras de unidad E3.s con los servidores Dell PowerEdge R66x5 que tienen hasta 16 ranuras de unidad E3.s. Datos recopilados al 02/10/2024.

8 Basado en el análisis de Dell de las especificaciones de los servidores Dell Rx715, que tienen 24 ranuras DIMM, en comparación con los servidores Dell Rx615, que tienen 12 ranuras DIMM cada uno. Datos precisos al 02/10/2024.

9 Basado en los servidores Dell PowerEdge que lograron puntuaciones récord mundiales para SPECVirt (puntuación de 1-S 4-node SAN de 3.38 con el Dell PowerEdge R6715, que es un récord mundial para SPECVirt en el nivel de 32 núcleos por sistema) y TPCx-AI (Puntuaciones de 720,386 @SF3, 864,593 @SF10 con el Dell PowerEdge R6715 son récords mundiales de rendimiento) al 02/10/2024. El rendimiento real puede variar.

10 Estimación basada en el análisis de Dell en mayo de 2024, comparando el tiempo de configuración de un clúster Kubernetes de 2 nodos para un LLM de uso general utilizando scripts automatizados frente a la implementación manual de un diseño común. El tiempo de configuración incluye solo la instalación básica. El tiempo de configuración real variará según la configuración de la solución.