Das KI-Kraftpaket Dell Poweredge XE9680 wird den kommenden AMD Instinct MI300X Accelerator unterstützen. Zudem kündigt Dell Technologies ein validiertes Design für AMD ROCm an. Unternehmen haben dadurch künftig eine noch grössere Auswahl an hochleistungsfähigen Lösungen für ihre GenAI-Projekte.
Dell Technologies erweitert in Zusammenarbeit mit AMD sein Lösungsportfolio für KI und GenAI. Der speziell für künstliche Intelligenz, maschinelles Lernen und Deep Learning entwickelte Dell Poweredge XE9680 Server unterstützt den kommenden AMD Instinct MI300X Accelerator. Diese Kombination unterstützt Unternehmen optimal dabei, den Wert ihrer Daten durch grosse Sprachmodelle zu erschliessen und sich durch mehr Innovation vom Wettbewerb zu differenzieren. Dafür stehen ihnen im Dell Poweredge XE9680 acht MI300X-GPUs mit je 192 GB Arbeitsspeicher und einer Speicherbandbreite (HBM3) von 5,3 TB/s zur Verfügung. Ein Server kommt insgesamt auf eine kohärente HBM3-Kapazität von 1,5 TB und mehr als 21 Petaflops an FP16- Performance. Der Poweredge XE9680 mit MI300X nutzt die AMD-Instinct-Plattform, ermöglicht damit eine nahezu lineare Skalierung und erlaubt es, GenAI-Modelle über Server-Cluster hinweg verteilt zu trainieren und einzusetzen. Die GPUs der Systeme werden dabei über ein Ethernet-basiertes AI Fabric miteinander verbunden, das ein von Dell Technologies validiertes GPU Fabric mit Dell PowerSwitch Z9664F-ON verwendet.
Validated Design für AMD ROCm
Neben der Unterstützung für den AMD MI300X Instinct Accelerator kündigt Dell Technologies auch das neue Dell Validated Design for Generative AI with AMD an. Das Lösungsdesign aus optimal aufeinander abgestimmten Komponenten ist gezielt für AMD ROCm konzipiert. Dabei handelt es sich um einen umfassenden Open-Source-Stack aus Treibern, Entwicklungstools und APIs für AMD Instinct Accelerators. Unternehmen steht damit ein weiteres validiertes Design von Dell Technologies zur Verfügung, mit dem sie vertrauenswürdige GenAI-Plattformen aufbauen können, ohne bei Integration, Leistung und Dimensionierung auf blosse Vermutungen angewiesen zu sein. Der Dell Poweredge XE9680 mit AMD Instinct MI300X Accelerator und das Dell Validated Design for Generative AI with AMD werden in der ersten Jahreshälfte 2024 verfügbar sein.