AI: meer dan een buzzword

Hoe wordt jouw organisatie ‘AI-ready’?

Bedrijven hebben verschillende behoeften en use cases als het gaat om AI. Van zorginstellingen die AI gebruiken voor behandelplannen op basis van patiëntgegevens tot bedrijven die AI inzetten voor klantenservice via chatbots - de toepassingen zijn eindeloos. Deze diversiteit vraagt om een flexibele aanpak, waarbij een breed scala aan open source software gebruikt wordt als basis voor diverse AI-toepassingen, van chatbots tot DNA-onderzoek. Deze flexibiliteit moet ook aanwezig zijn in de IT-infrastructuur waarop de AI draait. De keuze voor de juiste infrastructuur is dan ook erg belangrijk. Het gaat het niet alleen om het selecteren van de juiste hard- en software, maar ook om het optimaliseren van prestaties en het minimaliseren van complexiteit voor bedrijven die aan de slag willen gaan met AI.

Maar wat betekent het precies als je ‘AI-ready’ bent? In feite draait het erom dat je een solide basis hebt waarop AI-software kan gedijen. De infrastructuur moet worden voorbereid op de complexe eisen van AI-toepassingen. Developers willen echter helemaal niet bezig zijn met AI-ready maken met de infrastructuur. Ze willen een infrastructuur die al AI-ready is. Dit geldt ook voor de Machine LearningOps (ML) of Large Languge ModelOps (LLM) engineers. Ook zij willen zich eigenlijk geen zorgen hoeven maken over de IT-infrastructuur: zolang die er maar is en genoeg performance en resources biedt.

Verscheidenheid aan use-cases vraagt om geoptimaliseerde platformaanpak

De public cloud lijkt daarom een ideale oplossing vanuit het perspectief van development en MLOps. Maar vanuit security - zeker in het voorbeeld van de behandelingen van patiënten in de gezondheidszorg - en het governance- en kostenperspectief, is een public cloud voor AI-toepassingen niet altijd de juiste keuze gebleken. Zeker niet als het gaat om een AI-toepassing in een productieomgeving.

Nutanix ontwikkelde hiervoor GPT-in-a-Box, dat verder gaat dan alleen het bieden van een infrastructuur: het biedt een volledig geoptimaliseerd platform dat direct gereed is voor AI-implementaties. Hierdoor hoeven bedrijven geen tijd te verspillen aan het configureren van hardware en software; Nutanix heeft dit proces namelijk al geautomatiseerd.

De Nutanix management interface is geïntegreerd met Hugging Face en NVIDIA NIM voor eenvoudige installatie van de juiste LLM’s. Door dit gedeelte alleen beschikbaar te stellen voor MLOps en LLMOps, zorg je voor het intuïtieve gemak dat zij zoeken. Als de MLOps of LLMOps engineers de juiste modellen hebben gekozen en geïnstalleerd, dan hoeven ze alleen nog een endpoint beschikbaar te stellen voor de AI-developer. De developers krijgen vanuit GPT-in-a-Box dus toegang tot de LLM’s zoals ze die ook zouden krijgen in de public cloud. GPT-in-a-Box automatiseert dit proces zodat bedrijven zich kunnen concentreren op hun core business, zonder zich zorgen te hoeven maken over de onderliggende infrastructuur. Het doel is om hiermee de complexiteit van AI-implementaties weg te nemen en ervoor te zorgen dat bedrijven hun hardware optimaal te benutten.

GPT-in-a-Box integreert daarnaast naadloos met het Nutanix-platform. Bij het opstarten wordt een marktplaats weergegeven waar gebruikers direct toegang hebben tot GPT-in-a-Box en andere AI-workflows. Alles wordt met één klik automatisch geïnstalleerd en geconfigureerd, waardoor de drempel voor het starten met AI-projecten aanzienlijk lager is.

Complexiteit wegnemen

De snelle ontwikkelingen en uitdagingen, zoals het aanhoudende tekort aan mensen en kennis, zorgen ervoor dat het voor veel organisaties noodzakelijk wordt om te automatiseren. Niet alleen om tekorten op te vangen, maar bijvoorbeeld ook om innovatie te stimuleren. AI is een technologie die een oplossing kan bieden voor veel van deze uitdagingen. Het voorziet niet alleen in de huidige uitdagingen, maar stelt ons ook in staat om naar de toekomst te kijken. Door de complexiteit van AI-implementaties weg te nemen, kunnen bedrijven volledig profiteren van de mogelijkheden die AI biedt, zonder focus te verliezen. Met GPT-in-a-Box zijn we niet alleen klaar voor de AI-revolutie: we spelen daarin een leidende rol.

Door: Ricardo van Velzen (foto), Manager Systems Engineering Team bij Nutanix