Oracle en NVIDIA werken samen rond Agentic AI

De nieuwe integratie tussen Oracle Cloud Infrastructure (OCI) en het NVIDIA AI Enterprise softwareplatform zal 160+ AI-tools en 100+ NVIDIA NIM microservices native beschikbaar maken via de OCI Console. Daarnaast werken Oracle en NVIDIA samen aan de no-code-implementatie van zowel Oracle als NVIDIA AI Blueprints en aan het versnellen van AI-vectorzoekopdrachten in Oracle Database 23ai met de NVIDIA cuVS-bibliotheek.

"Oracle is het platform bij uitstek geworden voor zowel AI-training als inferencing, en dit partnerschap vergroot ons vermogen om klanten te helpen meer innovatie en bedrijfsresultaten te behalen", aldus Safra Catz, CEO van Oracle. "De aanbiedingen van NVIDIA, gecombineerd met de flexibiliteit, schaalbaarheid, prestaties en beveiliging van OCI, zullen de AI-acceptatie versnellen en klanten helpen meer waarde uit hun gegevens te halen."

"Oracle en NVIDIA zijn perfecte partners voor het tijdperk van redeneren: een AI- en accelerated computing-bedrijf dat samenwerkt met een belangrijke speler in de verwerking van een groot deel van de wereldwijde bedrijfsgegevens", aldus Jensen Huang (foto), medeoprichter en CEO van NVIDIA. "Samen helpen we bedrijven te innoveren met agentische AI ​​om geweldige dingen te leveren voor hun klanten en partners."

Speciaal ontworpen oplossingen om te voldoen aan de AI-behoeften van ondernemingen

NVIDIA AI Enterprise verkort de tijd die nodig is om redeneringsmodellen te implementeren en is standaard beschikbaar via de OCI Console. Klanten krijgen hierdoor snel en eenvoudig toegang tot AI-tools, waaronder NVIDIA NIM: een set van meer dan 100 geoptimaliseerde, cloud-native inferentiemicroservices voor toonaangevende AI-modellen, waaronder de nieuwste NVIDIA Llama Nemotron-modellen voor geavanceerde AI-redenering. NVIDIA AI Enterprise is beschikbaar als een implementatie-image voor OCI bare-metal-instanties en Kubernetes-clusters met behulp van OCI Kubernetes Engine. OCI Console-klanten profiteren van directe facturering en klantenondersteuning via Oracle.

Organisaties kunnen OCI's 150+ AI- en cloudservices implementeren met NVIDIA accelerated computing en NVIDIA AI Enterprise in hun datacenter, de publieke cloud of aan de edge. Dit aanbod biedt een geïntegreerde AI-stack om te helpen bij het aanpakken van gegevensprivacy, soevereine AI en lage latentievereisten.

Biotechnologiebedrijf Soley Therapeutics implementeert OCI AI-infrastructuur, NVIDIA AI Enterprise en NVIDIA Blackwell GPU's om zijn AI-platform voor medicijnontdekking te bouwen. Hiermee wil het nieuwe mogelijkheden ontsluiten voor de behandeling van complexe ziekten door cellulaire taal vast te leggen, te decoderen en te interpreteren om het lot van cellen te voorspellen.

"Wij geloven in het potentieel van AI bij het ontwikkelen van nieuwe oplossingen die kunnen helpen bij het leveren van behandelingen voor kanker en andere complexe ziekten", aldus Yerem Yeghiazarians, CEO en medeoprichter van Soley Therapeutics. "De combinatie van OCI en NVIDIA levert een full-stack AI-oplossing op, die ons de opslag, rekenkracht, softwaretools en ondersteuning biedt die nodig zijn om sneller te innoveren met petabytes aan data bij het ontwikkelen van ons AI-platform voor medicijnontdekking."

AI-implementatie op schaal met op maat gemaakte blauwdrukken

OCI AI Blueprints bieden no-code implementatierecepten waarmee klanten snel AI-workloads kunnen uitvoeren zonder beslissingen te hoeven nemen over de softwarestack of de infrastructuur handmatig te hoeven inrichten. De blueprints bieden duidelijke hardwareaanbevelingen voor NVIDIA GPU's, NIM-microservices en vooraf verpakte observatietools, waarmee bedrijven hun AI-projecten van weken naar minuten kunnen versnellen.

Bovendien bieden NVIDIA Blueprints ontwikkelaars een uniforme ervaring in de NVIDIA-stack door referentieworkflows te bieden voor AI-use cases voor bedrijven. Met NVIDIA Blueprints kunnen organisaties aangepaste AI-applicaties bouwen en operationeel maken met NVIDIA AI Enterprise en NVIDIA Omniverse ™ -software, application programming interfaces en microservices. Ontwikkelaars kunnen bijvoorbeeld beginnen met een NVIDIA AI Blueprint voor een AI-assistent voor klantenservice en deze aanpassen voor hun eigen gebruik. Om de ontwikkeling, implementatie en opschaling van geavanceerde fysieke AI- en simulatieapplicaties en -workflows te vereenvoudigen, worden de NVIDIA Omniverse en NVIDIA Isaac Sim-ontwikkelingswerkstations en Omniverse Kit App Streaming later dit jaar verwacht op Oracle Cloud Infrastructure Marketplace, vooraf geconfigureerd met compute bare-metal instances versneld door NVIDIA L40S GPU's.

Pipefy, een op AI gebaseerd automatiseringsplatform voor bedrijfsprocesbeheer, gebruikt een inferentieblauwdruk voor documentvoorverwerking en beeldverwerking.

"We hebben OCI AI Blueprints omarmd om GPU-knooppunten op te starten en multimodale LLM's snel te implementeren voor document- en beeldverwerkingstoepassingen", aldus Gabriel Custódio, principal software engineer bij Pipefy. "Met behulp van deze vooraf verpakte en geverifieerde blueprints is het implementeren van onze AI-modellen op OCI nu volledig geautomatiseerd en aanzienlijk sneller."

Real-time AI-inferentie met NVIDIA NIM in OCI-datawetenschap

Om de acceptatie van enterprise AI verder te versnellen en snelle AI-implementaties met minimale instellingen mogelijk te maken, kunnen datawetenschappers rechtstreeks in OCI Data Science toegang krijgen tot vooraf geoptimaliseerde NVIDIA NIM-microservices. Dit ondersteunt realtime AI-inferentie-usecases zonder de complexiteit van het beheren van infrastructuur.

Om de gegevensbeveiliging en naleving te helpen handhaven, draaien de modellen in de OCI-tenancy van de klant. Klanten kunnen de modellen kopen via een flexibel, pay-as-you-go, uurtariefmodel of hun Oracle Universal Credits toepassen.

Organisaties kunnen deze integratie gebruiken om inferentie-eindpunten te implementeren met vooraf geconfigureerde, geoptimaliseerde NIM-inferentie-engines in minuten, waardoor de time-to-value voor use cases zoals AI-gestuurde assistenten, realtime aanbevelingsengines en copilots snel wordt versneld. Bovendien kunnen klanten hiermee de integratie gebruiken voor kleinere workloads en naadloos schalen naar bedrijfsbrede implementaties.

NVIDIA Accelerated Computing Platform Turbocharges AI Vector Search in Oracle Database 23ai

Oracle en NVIDIA werken samen om de creatie van vector-embeddings en vectorindexen (rekenintensieve onderdelen van AI Vector Search-workloads in Oracle Database 23ai) te versnellen met behulp van NVIDIA GPU's en NVIDIA cuVS.

Organisaties kunnen vector-embedding mogelijk maken door bulkvectorisatie van grote volumes invoergegevens zoals tekst, afbeeldingen en video's, evenals de snelle creatie en het onderhoud van vectorindexen. Met NVIDIA-versnelde AI Vector Search kunnen Oracle Database-klanten de prestaties van hun AI-pipelines aanzienlijk verbeteren om AI-vectorworkloads met een hoog volume te ondersteunen.

DeweyVision biedt geavanceerde computer vision en kunstmatige intelligentie om media om te zetten in data, waardoor het toegankelijk, doorzoekbaar, vindbaar, opvraagbaar en bruikbaar wordt. DeweyVision gebruikt Oracle Database 23ai op Oracle Autonomous Database voor zijn AI-aangedreven, no-code warehousing tools. Deze tools stellen productieprofessionals in staat om hun workflows te verbinden en videobeelden snel te bewerken door beelden in minuten te catalogiseren en intuïtieve zoekmogelijkheden te bieden.

"Oracle Database 23ai met AI Vector Search kan de zoekprestaties van Dewey aanzienlijk verbeteren en tegelijkertijd de schaalbaarheid van het DeweyVision-platform vergroten", aldus Majid Bemanian, CEO van DeweyVision. "Het gebruik van NVIDIA GPU's om de vector-embeddings te maken die we in Oracle Database laden, versnelt de snelheid waarmee we nieuwe gegevens kunnen opnemen, terwijl Autonomous Database en de geconvergeerde mogelijkheden van Oracle Database 23ai onze operationele kosten zullen helpen verlagen naarmate we groeien en nieuwe kansen openen. Wij geloven dat de combinatie van DeweyVision, Oracle Database 23ai en NVIDIA GPU's die in OCI draaien, ons zal helpen ons doel te bereiken om Hollywood's datawarehouse te worden."

NVIDIA Blackwell op OCI maakt AI overal mogelijk

Oracle en NVIDIA blijven de AI-infrastructuur ontwikkelen met nieuwe NVIDIA GPU-typen in de openbare regio's van OCI, overheidsclouds, soevereine clouds, OCI Dedicated Region, Oracle Alloy, OCI Compute Cloud@Customer en OCI Roving Edge Devices.

Dit omvat NVIDIA Quantum-2 InfiniBand clusternetwerkomgevingen, NVIDIA Spectrum Ethernet-switches en geoptimaliseerde NVIDIA NVLink en NVLink Switch-functionaliteit voor enkele van de grootste AI-superclusters op de markt. Daarnaast zal OCI NVIDIA GB200 NVL72-systemen aanbieden op OCI Supercluster — binnenkort algemeen beschikbaar met maximaal 131.072 NVIDIA GPU's — en neemt bestellingen aan voor een van de grootste AI-supercomputers in de cloud met NVIDIA Blackwell Ultra GPU's.

OCI zal een van de eerste cloud service providers zijn die de volgende generatie van het NVIDIA Blackwell accelerated computing platform aanbiedt. Blackwell Ultra is gebaseerd op de Blackwell architectuur die een jaar geleden werd geïntroduceerd en omvat de NVIDIA GB300 NVL72 rack-scale oplossing en het NVIDIA HGX™ B300 NVL16 systeem. De GB300 NVL72 levert 1,5x meer AI-prestaties dan de NVIDIA GB200 NVL72.

SoundHound AI, een wereldleider in kunstmatige intelligentie voor spraak, drijft honderden bedrijfsmerken, duizenden restaurants en winkels aan en wordt ingezet in miljoenen auto's en apparaten. Het AI-spraakplatform draait op OCI, verwerkt jaarlijks miljarden query's en gebruikt NVIDIA GPU's om klanten snelle en nauwkeurige interacties te bieden.

"SoundHound AI heeft een langdurige relatie met OCI ontwikkeld en we geloven dat onze voortdurende samenwerking een belangrijke rol zal spelen bij het ondersteunen van toekomstige groei", aldus James Hom, Chief Product Officer, SoundHound AI. "We zijn enthousiast om te profiteren van de verschillende GPU's en ze te gebruiken om onze volgende generatie spraak-AI te trainen."