NVIDIA gaat samen met Microsoft cloud-AI-computer bouwen

NVIDIA gaat samen met Microsoft om enorme cloud-AI-computer bouwen. Tienduizenden NVIDIA GPU's, NVIDIA Quantum-2 InfiniBand en volledige stapel NVIDIA AI-software komen naar de Azure cloud. NVIDIA, Microsoft en wereldwijde ondernemingen gaan dan dit platform gebruiken voor snelle, kosteneffectieve AI-ontwikkeling en -implementatie.

NVIDIA kondigt een meerjarige samenwerking aan met Microsoft om een van de krachtigste AI-supercomputers ter wereld te bouwen, aangedreven door Microsoft Azure's geavanceerde supercomputing-infrastructuur in combinatie met NVIDIA GPU's, netwerken en een volledige stapel AI-software om ondernemingen te helpen trainen, implementeren en schalen AI, inclusief grote, ultramoderne modellen.

De cloudgebaseerde AI-supercomputer van Azure omvat krachtige en schaalbare virtuele machines uit de ND- en NC-serie die zijn geoptimaliseerd voor AI-gedistribueerde training en gevolgtrekking. Het is de eerste openbare cloud die NVIDIA's geavanceerde AI-stack bevat, waardoor tienduizenden NVIDIA A100- en H100 - GPU's, NVIDIA Quantum-2 400Gb/s InfiniBand-netwerken en de NVIDIA AI Enterprise -softwaresuite aan zijn platform worden toegevoegd.

Als onderdeel van de samenwerking zal NVIDIA de schaalbare virtuele machine-instanties van Azure gebruiken om de vooruitgang in generatieve AI te onderzoeken en verder te versnellen, een snel opkomend gebied van AI waarin fundamentele modellen zoals Megatron Turing NLG 530B de basis vormen voor zelflerende algoritmen zonder toezicht om nieuwe tekst, code, digitale afbeeldingen, video of audio maken.

De bedrijven zullen ook samenwerken om de DeepSpeed deep learning-optimalisatiesoftware van Microsoft te optimaliseren. NVIDIA's volledige stapel AI-workflows en softwareontwikkelingskits, geoptimaliseerd voor Azure, wordt beschikbaar gesteld aan zakelijke klanten van Azure.

“De vooruitgang in AI-technologie en de acceptatie door de industrie versnellen. De doorbraak van basismodellen heeft een vloedgolf van onderzoek op gang gebracht, nieuwe start-ups gestimuleerd en nieuwe bedrijfstoepassingen mogelijk gemaakt”, zegt Manuvir Das, vice-president enterprise computing bij NVIDIA. "Onze samenwerking met Microsoft zal onderzoekers en bedrijven voorzien van de modernste AI-infrastructuur en -software om te profiteren van de transformerende kracht van AI."

"AI voedt de volgende golf van automatisering in ondernemingen en industriële computers, waardoor organisaties meer kunnen doen met minder terwijl ze door economische onzekerheden navigeren", zegt Scott Guthrie, executive vice president van de Cloud + AI Group bij Microsoft. "Onze samenwerking met NVIDIA ontgrendelt 's werelds meest schaalbare supercomputerplatform, dat state-of-the-art AI-mogelijkheden biedt voor elke onderneming op Microsoft Azure."

Schaalbare piekprestaties met NVIDIA Compute en Quantum-2 InfiniBand op Azure
Microsoft Azure's AI-geoptimaliseerde virtuele machine-instanties zijn ontworpen met NVIDIA's meest geavanceerde datacenter-GPU's en zijn de eerste openbare cloudinstanties die NVIDIA Quantum-2 400Gb/s InfiniBand-netwerken bevatten. Klanten kunnen duizenden GPU's in één cluster inzetten om zelfs de meest massieve grote taalmodellen te trainen, de meest complexe aanbevelingssystemen op schaal te bouwen en generatieve AI op schaal mogelijk te maken.

De huidige Azure-instanties zijn voorzien van NVIDIA Quantum 200Gb/s InfiniBand-netwerken met NVIDIA A100 GPU's. Toekomstige zullen worden geïntegreerd met NVIDIA Quantum-2 400Gb/s InfiniBand-netwerken en NVIDIA H100 GPU's. Gecombineerd met de geavanceerde cloudinfrastructuur, netwerken en opslag van Azure, bieden deze AI-geoptimaliseerde aanbiedingen schaalbare topprestaties voor AI-training en deep learning-inferentieworkloads van elke omvang.

Versnellen van AI-ontwikkeling en -implementatie
Bovendien ondersteunt het platform een breed scala aan AI-applicaties en -diensten, waaronder Microsoft DeepSpeed en de NVIDIA AI Enterprise-softwaresuite.

Microsoft DeepSpeed zal gebruikmaken van de NVIDIA H100 Transformer Engine om op transformator gebaseerde modellen te versnellen die worden gebruikt voor onder andere grote taalmodellen, generatieve AI en het schrijven van computercode. Deze technologie past 8-bit drijvende-kommaprecisiemogelijkheden toe op DeepSpeed om AI-berekeningen voor transformatoren drastisch te versnellen - met tweemaal de doorvoer van 16-bits bewerkingen.

NVIDIA AI Enterprise — de wereldwijd gebruikte software van het NVIDIA AI-platform — is gecertificeerd en wordt ondersteund op Microsoft Azure-instances met NVIDIA A100 GPU's. Ondersteuning voor Azure-instanties met NVIDIA H100 GPU's wordt toegevoegd in een toekomstige softwareversie.

NVIDIA AI Enterprise, dat de NVIDIA Riva voor spraak-AI en NVIDIA Morpheus cyberbeveiligingstoepassingsframeworks omvat, stroomlijnt elke stap van de AI-workflow, van gegevensverwerking en AI-modeltraining tot simulatie en grootschalige implementatie.