HPE versnelt AI-training met nieuwe turnkeyoplossing in samenwerking met NVIDIA

Softwaretools om AI-applicaties te bouwen, pre-builtmodellen te tunen en code te ontwikkelen en aan te passen zijn cruciale onderdelen van deze supercomputingoplossing voor generative AI. De software is geïntegreerd met HPE Cray supercomputingtechnologie gebaseerd op dezelfde architectuur die gebruikt wordt in de snelste supercomputer van de wereld. Ook is de software uitgerust met de NVIDIA Grace Hopper™ GH200 Superchips. Deze oplossing biedt organisaties de kracht en prestaties die nodig zijn voor grote AI-workloads, zoals het trainen van large language models (LLM’s) en deep learning recommendation models (DLRM’s). De nieuwe oplossing verbetert de performance met 200-300%.

Geïntegreerde AI-oplossing

De supercomputingoplossing voor generative AI is een geïntegreerde, AI-native-oplossing die de volgende end-to-endtechnologieën en -diensten bevat:

AI/ML acceleration software – Drie softwaretools helpen klanten hun AI-modellen te trainen en tunen, en hun eigen AI-applicaties te creëren.

HPE Machine Learning Development Environment is een machine learning (ML) softwareplatform dat het voor klanten mogelijk maakt om AI-modellen sneller te ontwikkelen en in te zetten door populaire ML-frameworks te integreren en datavoorbereiding te vereenvoudigen.

NVIDIA AI Enterprise helpt organisaties aan leading-edge AI met security, stabiliteit, beheerbaarheid en support. Het biedt frameworks, getrainde modellen en tools die de ontwikkeling en het inzetten van AI stroomlijnen.

De HPE Cray Programming Environment suite biedt programmeurs een complete set tools voor het ontwikkelen, porten, debuggen en verfijnen van code.

Ontworpen voor groot gebruik – Gebaseerd op HPE Cray EX2500, een exascale-klassesysteem, en met NVIDIA GH200 Grace Hopper Superchips kan de oplossing duizenden graphic processing units (GPU’s) ondersteunen. Ook heeft het een mogelijkheid om de volledige capaciteit nodes te wijden aan één AI-workload voor een snellere time-to-value. Het systeem is de eerste die de quad GH200 Superchip node configuratie bevat.

Een netwerk voor real-time AI - HPE Slingshot Interconnect biedt een open, ethernet-gebaseerd high performance netwerk dat exascale-klasse workloads ondersteunt. Deze aanpasbare onderlinge verbintenis maakt high-speed networking mogelijk.

Turnkey eenvoud - HPE Complete Care Services biedt specialisten voor set-up, installatie en full-lifecycle-ondersteuning om AI-implementatie makkelijker te maken.

De toekomst van supercomputing en AI is laag in energieverbruik zonder effect op de performance

Het is voorspeld dat AI-workloads in 2028 meer dan 20 gigawatt aan stroom verbruiken in datacenters. Klanten hebben energie-efficiënte oplossingen nodig om de impact op hun koolstofuitstoot te minimaliseren. Daarom levert HPE oplossingen met vloeistofkoeling die voor een tot 20% betere performance per kilowatt zorgen, vergeleken met luchtgekoelde oplossingen. Bovendien verbruikt het 15% minder stroom. HPE levert het merendeel van 's werelds top tien meest efficiënte supercomputers. Door gebruik te maken van DLC-technologie (Direct Liquid Cooling) voor de supercomputingoplossing voor generative AI, kunnen klanten systemen efficiënt koelen. Zo helpt HPE organisaties om krachtige compute-technologie te gebruiken en tegelijkertijd hun energieverbruik te verminderen.

Beschikbaarheid

De supercomputingoplossing voor generative AI is vanaf december beschikbaar via HPE in meer dan 30 landen.

"Veel grote bedrijven en onderzoeksinstellingen trainen en tunen AI-modellen om innovatie te versnellen en onderzoeksdoorbraken te realiseren, maar om dit voor elkaar te krijgen hebben ze passende oplossingen nodig,” zegt Justin Hotard, executive vice president en general manager, HPC, AI & Labs bij Hewlett Packard Enterprise. “Om de implementatie van generative AI te ondersteunen, moeten organisaties oplossingen gebruiken die de benodigde performance leveren en de schaal van een supercomputer hebben die AI-training kunnen ondersteunen. We kijken ernaar uit om onze samenwerking met NVIDIA uit te breiden en een turnkey AI-native-oplossing aan te bieden, die onze klanten helpt hun AI-training en -resultaten te versnellen.”

"Generative AI transformeert elke industrie en wetenschap," voegt Ian Buck, vice president Hyperscale en HPC bij NVIDIA toe. "NVIDIA’s samenwerking met HPE op het gebied van deze turnkey AI-training en -simulatie-oplossing, aangedreven door NVIDIA GH200 Grace Hopper Superchips, biedt klanten de performance die nodig is om doorbraken in hun generative AI-initiatieven te realiseren."