Nutanix breidt AI-platform uit naar public cloud

E. Het NAI-aanbod biedt een consistent hybride multicloud operating-model voor AI-workloads, waardoor organisaties hun modellen en data op een veilige locatie naar keuze kunnen draaien terwijl de return on investment (ROI) verbetert. Nutanix Enterprise AI, dat gebruikmaakt van NVIDIA NIM voor geoptimaliseerde prestaties van basismodellen, helpt organisaties om inference endpoints voor large language models (LLM’s) veilig te implementeren, draaien en schalen. Hierdoor kan de implementatie van generatieve AI (GenAI)-applicaties plaatsvinden in minuten in plaats van dagen of weken.

Generatieve AI is van nature een hybride workload: nieuwe applicaties worden vaak in de public cloud gebouwd, modellen worden verfijnd met behulp van privé data on-premises en inferencing wordt geïmplementeerd dichtbij de bedrijfslogica – wat aan de edge, on-premises of in de public cloud kan zijn. Deze gedistribueerde hybride GenAI-workflow kan uitdagingen opleveren op het gebied van complexiteit, data privacy, beveiliging en kosten.

Nutanix Enterprise AI biedt een consistent multicloud operating-model en een eenvoudige manier om LLM’s veilig te implementeren, schalen en draaien met door NVIDIA NIM geoptimaliseerde inference microservices en open foundation-modellen van Hugging Face. Hierdoor kunnen klanten een zakelijke GenAI-infrastructuur bouwen met de veerkracht, day 2 operations en beveiliging die ze nodig hebben voor bedrijfskritische applicaties – on-premises of op AWS Elastic Kubernetes Service (EKS), Azure Managed Kubernetes Service (AKS) en Google Kubernetes Engine (GKE).

Prijsmodel

Daarnaast biedt Nutanix Enterprise AI een transparant en voorspelbaar prijsmodel op basis van infrastructuur-resources, wat belangrijk is voor klanten die de ROI van hun GenAI-investeringen willen maximaliseren. Dit staat in contrast met lastig te voorspellen gebruik of op tokens gebaseerde prijzen.

Nutanix Enterprise AI is een onderdeel van Nutanix GPT-in-a-Box 2.0. GPT-in-a-Box omvat ook Nutanix Cloud Infrastructure, Nutanix Kubernetes Platform en Nutanix Unified Storage én diensten ter ondersteuning van de configuratie- en vraag naar op- en afschalen van klanten voor on-premises training en inferencing. Nutanix Enterprise AI kan in iedere Kubernetes-omgeving worden geïmplementeerd, maar operationeel gezien lijkt het op on-premises implementaties. Dit is handig voor klanten die dit willen implementeren of combineren met de public cloud.

“Met Nutanix Enterprise AI helpen we onze klanten om GenAI-applicaties eenvoudig en veilig on-premises of in public clouds te draaien. Nutanix Enterprise AI kan worden geïmplementeerd op ieder Kubernetes-platform en zorgt ervoor dat AI-applicaties op een veilige locatie draaien, met een voorspelbaar kostenmodel”, zegt Thomas Cornely, SVP, Product Management, Nutanix.

AI-platform

Nutanix Enterprise AI kan worden geïmplementeerd met het NVIDIA full-stack AI-platform en is gevalideerd met het NVIDIA AI Enterprise-softwareplatform, inclusief NVIDIA NIM, een set gebruiksvriendelijke microservices ontwikkeld voor veilige en betrouwbare implementatie van high-performance AI model inferencing. Nutanix-GPT-in-a-Box is ook een NVIDIA-Certified System, waardoor betrouwbare prestaties zijn gegarandeerd.

“Generatieve AI-workloads zijn van nature hybride, waarbij training, maatwerk en inference plaatsvinden in public clouds, on-premises-systemen en edge-locaties”, zegt Justin Boitano, vice president of enterprise AI, NVIDIA. “Door NVIDIA NIM te integreren in Nutanix Enterprise AI bieden we een consistent multicloud-model met veilige API’s, waardoor klanten AI in diverse omgevingen kunnen implementeren met de hoge prestaties en beveiliging die nodig is voor bedrijfskritische applicaties.”

Nutanix Enterprise AI helpt klanten om:

• Tekorten aan AI-skills aan te pakken. Eenvoud, keuze en ingebouwde features zorgen ervoor dat IT-beheerders echt IT-beheerders kunnen zijn. De ontwikkeling van AI wordt versneld doordat datawetenschappers en ontwikkelaars snel aanpassingen kunnen doen dankzij de nieuwste modellen en door NVIDIA accelerated computing.
• Belemmeringen voor het bouwen van een AI-ready platform weg te nemen. Veel organisaties die GenAI willen implementeren, vinden het lastig om het juiste platform te bouwen om AI-workloads te ondersteunen, inclusief het zorgen voor consistentie in hun on-premises infrastructuur en in meerdere public clouds. Nutanix Enterprise AI pakt deze uitdagingen aan met een eenvoudige, door UI-gedreven workflow die klanten helpt om LLM inference endpoints binnen een paar minuten te implementeren en testen. Ook biedt het klanten keuzemogelijkheden inclusief ondersteuning voor NVIDIA NIM-microservices die overal kunnen draaien, voor geoptimaliseerde modelprestaties in cloud- en on prem-omgevingen. Hugging Face en andere modelstandaarden worden ook ondersteund. Bovendien zorgt native integratie met Nutanix Kubernetes Platform ervoor dat klanten het hele Nutanix Cloud Platform kunnen gebruiken en het biedt klanten de optie om op iedere Kubernetes runtime te draaien, waaronder AWS EKS, Azure AKS of Google Cloud GKE met NVIDIA accelerated computing.
• Zorgen over data privacy en -beveiliging te verminderen. Nutanix Enterprise AI helpt privacy- en beveiligingsrisico’s te beperken doordat klanten modellen en data kunnen draaien op compute-resources die zij beheren. Daarnaast biedt Nutanix Enterprise AI een intuïtief dashboard voor troubleshooting, observability en gebruik van resources voor LLM’s, evenals snelle en veilige role-based access controls (RBAC), zodat toegang tot LLM’s controleerbaar en begrijpelijk is. Organisaties die sterkere beveiliging nodig hebben, kunnen het systeem ook implementeren in air-gapped of dark-site omgevingen.
• Enterprise infrastructuur naar GenAI-workloads te brengen. Klanten die Nutanix Cloud Platform voor bedrijfskritische applicaties gebruiken, kunnen nu dezelfde veerkracht, day 2 operations en beveiliging naar AI-workloads brengen voor een enterprise infrastructuur-ervaring.

Use cases

Belangrijke use cases voor klanten die Nutanix Enterprise AI gebruiken zijn: verbetering van de klantervaring met GenAI dankzij het analyseren van feedback en documenten van klanten; snellere code- en contentcreatie door gebruik te maken van co-pilots en intelligente documentverwerking; fine-tuning modellen gebruiken op domeinspecifieke data om code- en contentcreatie te versnellen; betere beveiliging, waaronder het gebruik van AI-modellen voor fraudedetectie, detectie van bedreigingen, verrijking van waarschuwingen en automatische beleidsvorming; en betere analyse door gebruik te maken van verfijnde modellen op privégegevens.

Nutanix Enterprise AI op on-premises, aan de edge of in de public cloud en Nutanix GPT-in-a-Box 2.0 zijn nu beschikbaar voor klanten. Meer informatie is hier beschikbaar.