NVIDIA CEO introduceert nieuwe innovaties

NVIDIA presenteerde onlangs een visie voor de volgende generatie computers die de focus van de wereldwijde informatie-economie verlegt van servers naar een nieuwe klasse van krachtige, flexibele datacenters. In een keynote in negen gelijktijdig uitgebrachte afleveringen opgenomen vanuit de keuken van zijn huis in Californië, besprak NVIDIA-oprichter en CEO Jensen Huang NVIDIA's recente Mellanox-acquisitie, nieuwe producten op basis van de langverwachte NVIDIA Ampere GPU-architectuur van het bedrijf en belangrijke nieuwe softwaretechnologieën.

De kern van Huang's lezing was een visie over hoe datacenters, de machinekamers van de moderne wereldwijde informatie-economie veranderen en hoe NVIDIA en Mellanox, verworven in een deal die vorige maand werd gesloten, samen die veranderingen aansturen. "Het datacenter is de nieuwe rekeneenheid", zei Huang, eraan toevoegend dat NVIDIA de prestatieverbeteringen van silicium, de manier waarop CPU's en GPU's verbinding maken, de volledige softwarestack en uiteindelijk over hele datacenters versnelt.

Systemen die zijn geoptimaliseerd voor gegevenscentrumschaal computing

Dat begint volgens Huang met een nieuwe GPU-architectuur die is geoptimaliseerd voor dit nieuwe soort datacenter-computing, dat AI-training en gevolgtrekking verenigt en flexibele, elastische versnelling mogelijk maakt.

NVIDIA A100, de eerste GPU op basis van de NVIDIA Ampere-architectuur, die de grootste generatie-prestatiesprong biedt van NVIDIA's acht generaties GPU's, is ook gebouwd voor data-analyse, wetenschappelijk computergebruik en cloudafbeeldingen, en is in volle productie en wordt naar klanten over de hele wereld verzonden, zo kondigde Huang aan.

Achttien van 's werelds toonaangevende serviceproviders en systeembouwers nemen deze toepassing op, waaronder Alibaba Cloud, Amazon Web Services, Baidu Cloud, Cisco, Dell Technologies, Google Cloud, Hewlett Packard Enterprise, Microsoft Azure en Oracle.
De A100 en de NVIDIA Ampere-architectuur waarop het is gebouwd, verbeteren de restaties tot 20x ten opzichte van zijn voorgangers, zei Huang.

NVIDIA levert ook een derde generatie van haar NVIDIA DGX AI-systeem op basis van NVIDIA A100 - de NVIDIA DGX A100 - 's werelds eerste 5-petaflops-server. En elke DGX A100 kan worden onderverdeeld in maar liefst 56 applicaties, die allemaal onafhankelijk draaien. A100 zal ook beschikbaar zijn voor makers van cloud- en partnerservers als HGX A100.

Huang kondigde ook de NVIDIA EGX A100 aan , waarmee krachtige realtime cloud computing-mogelijkheden naar de rand worden gebracht. De NVIDIA Ampere architectuur GPU biedt Tensor Cores van de derde generatie en nieuwe beveiligingsfuncties. Dankzij de NVIDIA Mellanox ConnectX-6 SmartNIC bevat het ook veilige, razendsnelle netwerkmogelijkheden.

Software

Huang kondigde ook aan dat NVIDIA GPU's grote softwaretoepassingen zullen aandrijven voor het versnellen van drie cruciale toepassingen: het beheren van big data, het maken van aanbevelingssystemen en het bouwen van realtime, gespreks-AI.
Deze nieuwe tools komen eraan omdat de effectiviteit van machine learning bedrijven ertoe heeft aangezet om steeds meer gegevens te verzamelen. "Die positieve feedback zorgt ervoor dat we een exponentiële groei ervaren in de hoeveelheid gegevens die wordt verzameld," zei Huang.

Om allerlei soorten organisaties bij te houden, kondigde Huang ondersteuning aan voor NVIDIA GPU-acceleratie op Spark 3.0, waarbij de big data-analyse-engine wordt beschreven als "een van de belangrijkste applicaties ter wereld". Gebouwd op RAPIDS , verbreekt Spark 3.0 prestatiebenchmarks voor het extraheren, transformeren en laden van gegevens, zei Huang. Het heeft Adobe Intelligent Services al geholpen om een verlaging van de rekenkosten met 90 procent te realiseren. Belangrijke cloud-analyseplatforms - waaronder Amazon SageMaker, Azure Machine Learning, Databricks, Google Cloud AI en Google Cloud Dataproc - zullen allemaal versnellen met NVIDIA, kondigde Huang aan. "We zijn nu voorbereid op een toekomst waarin de hoeveelheid data exponentieel zal blijven groeien van tientallen of honderden petabytes tot exaschaal en meer", zei Huang.

Huang onthulde ook NVIDIA Merlin, een end-to-end framework voor het bouwen van next-gen aanbevelingssystemen, die hard op weg zijn om de motor te worden van een persoonlijker internet. Merlin verkort de tijd die nodig is om een aanbevelingssysteem te creëren van een dataset van 100 terabyte naar 20 minuten binnen vier dagen, zei Huang.

En hij beschreef NVIDIA Jarvis , een nieuw end-to-end platform voor het creëren van real-time, multimodale gespreks-AI die gebruik kan maken van de mogelijkheden die door NVIDIA's AI-platform zijn ontketend. Huang benadrukte zijn mogelijkheden met een demo die hem liet zien hoe hij in contact kwam met een vriendelijke AI, Misty, die een verfijnde reeks vragen over het weer in realtime begreep en beantwoordde.

Huang verdiepte zich ook in NVIDIA's snelle vooruitgang in real-time ray tracing sinds NVIDIA RTX werd gelanceerd op SIGGRAPH in 2018, en hij kondigde aan dat NVIDIA Omniverse, waarmee 'verschillende ontwerpers met verschillende tools op verschillende plaatsen verschillende delen van hetzelfde ontwerp kunnen doen', tegelijkertijd samenwerken is nu beschikbaar voor klanten met vroege toegang.

Autonome voertuigen

Autonome voertuigen zijn een van de grootste computeruitdagingen van onze tijd, zei Huang, een gebied waar NVIDIA doorgaat met NVIDIA DRIVE. NVIDIA DRIVE zal de nieuwe Orin SoC gebruiken met een ingebouwde NVIDIA Ampere GPU om de energie-efficiëntie en prestaties te bereiken om een 5-watt ADAS-systeem voor de voorruit aan te bieden en op te schalen naar een 2000 TOPS, level-5 robotaxisysteem. Nu hebben autofabrikanten één computerarchitectuur en één softwarestack om AI in al hun voertuigen te bouwen. "Het is nu mogelijk voor een autofabrikant om een volledig wagenpark te ontwikkelen met één architectuur, waarbij gebruik wordt gemaakt van de softwareontwikkeling voor hun hele wagenpark", aldus Huang.

Het NVIDIA DRIVE-ecosysteem omvat nu auto's, vrachtwagens, autoleveranciers van de eerste generatie, mobiliteitsdiensten van de volgende generatie, startups, kaartservices en simulatie. En Huang kondigde aan dat NVIDIA NVIDIA DRIVE RC toevoegt voor het beheer van hele wagenparken van autonome voertuigen aan zijn reeks NVIDIA DRIVE-technologieën.

BMW

BMW heeft NVIDIA Isaac-robotica geselecteerd om zijn fabrieken van stroom te voorzien. NVIDIA blijft ook doorgaan met zijn NVIDIA Isaac-softwaregedefinieerde robotica-platform en kondigt aan dat BMW NVIDIA Isaac-robotica heeft geselecteerd om zijn fabrieken van stroom te voorzien. De 30 fabrieken van BMW over de hele wereld bouwen elke 56 seconden één voertuig: dat zijn 40 verschillende modellen, elk met honderden verschillende opties, gemaakt van 30 miljoen onderdelen die van bijna 2.000 leveranciers over de hele wereld binnenstromen, legde Huang uit. "BMW sluit zich aan bij een uitgebreid NVIDIA-robotica-wereldwijd ecosysteem dat bezorgdiensten, detailhandel, autonome mobiele robots, landbouw, diensten, logistiek, productie en gezondheidszorg omvat. In de toekomst zullen fabrieken in feite enorme robots zijn. "Alle bewegende delen binnenin worden aangedreven door kunstmatige intelligentie", zei Huang. "Elk massaproduct in de toekomst wordt op maat gemaakt."