Lenovo: AI verandert datacenters, net als de wens om duurzaamheid dat doet

“OpenAI is op dit moment denk ik één van de meest succesvolle IT-organisaties als je kijkt naar de afgelopen veertig jaar, zeker als je kijkt naar de adoptiegraad: binnen twee maanden wisten zij met ChatGPT honderd miljoen gebruikers te verzamelen. In vergelijking: WhatsApp, dat we toch ook allemaal gebruiken, had 50 maanden nodig om op dezelfde adoptiegraad te komen”, vertelt Rick Koopman, Director HPC en AI bij Lenovo.

Lenovo investeert in AI

We hebben het over Artificial Intelligence (AI) en de snelheid waarmee consumenten en bedrijven het omarmen, zelfs zonder dat ze het altijd weten. “Neem de transcriptie van je Teams-meeting, dat is ook AI. Iedereen gebruikt het, maar ze realiseren het zich niet eens.” Ook Lenovo investeert flink in AI door bijvoorbeeld het AI Innovation Program op te starten en LiCO, een oplossing om het gebruik van geclusterde computing voor AI, te vereenvoudigen.

Om AI slim in te zetten, ontwikkelen bedrijven use cases. Eén van de use cases is bijvoorbeeld het voorspellen hoe de mensenstromen gaan zijn op een evenement. “AI wordt dan ingezet om virtuele of immersive werelden te ontwikkelen zodat je een reallife scenario kan testen. Als je honderdduizenden mensen bij elkaar hebt en je hebt data verzameld uit honderden camerafeeds, dan kan je voorspellen wat de breedte van de gangpaden moet zijn, waar wc’s en waterpunten moeten komen.”

Voorkom dat je dure fouten maakt

Een ander voorbeeld dat Koopman aanhaalt is de ontwikkeling van een autofabriek. “Stel, je bouwt twee jaar aan een nieuwe fabriek om te ontdekken, op het moment dat de fabriek klaar is voor productie, dat de gangpaden te smal zijn voor de onderdelen. Dat is een dure grap. Met AI kan je de fabriek virtueel opbouwen als Digital Twin en alle scenario’s langslopen. Je weet waar lopende banden moeten komen, hoe breed de gangpaden moeten zijn. Dus voordat je gaat investeren weet je dat het klopt.”

Door het ontwikkelen van zo’n virtueel voorbeeld voorkom je dat je dure fouten maakt, maar het helpt bijvoorbeeld ook om de timing van je supply chain te optimaliseren. Zo voorkom je dat je te grote voorraden aanlegt, terwijl je een just-in-time principe wilt hanteren. Door deze use cases uit te schrijven en te testen, kan je niet alleen ontdekken wát je kan optimaliseren, maar óók wat het je bottom-line gaat opleveren.

Waar zet je de data neer?

Onderdeel van de uitrol van een AI-project is natuurlijk het bepalen waar je data gaat neerzetten. “Waar je jaren geleden een run naar de cloud zag, zie je nu dat vele grote gebruikers van compute en data-intensieve systemen daarop terugkomen. Ze zetten de infrastructuur on premise of in eigen beheer in een private cloud. De belangrijkste drijfveer daarbij is kosten, maar ook het idee dat je moet betalen om over je eigen data te beschikken stootte steeds meer mensen tegen de borst.”

Duurzaamheid is steeds belangrijker

Naast kosten en soevereiniteit speelt ook duurzaamheid een steeds belangrijkere rol. Daarom assembleert Lenovo infrastructuren alvast lokaal in de fabriek. “Met onze fabriek in Hongarije bedienen we heel Europa. We verminderen onze uitstoot allereerst doordat onze computers niet eerst de hele wereld over moeten voordat ze bij de klant aankomen. Daarnaast kunnen we niet alleen losse servers leveren, maar ook volledig geteste en geïntegreerde supercomputers.

Eén zo’n supercomputer was degene die is neergezet bij SURF in Amsterdam. Zij gebruiken deze computer voor HPC en AI-toepassingen voor de Nederlandse academische en wetenschappelijke wereld. De samengestelde en in de Lenovofabriek reeds opgebouwde supercomputer heeft als voordeel dat ze de infrastructuur sneller kunnen neerzetten, aansluiten en in gebruik nemen. Dat scheelt tijd en dus kosten, maar dat heeft ook impact op de enorme hoeveelheid verpakkingsmaterialen, die eveneens worden gereduceerd.

Het gebruik van water in HPC en AI

Wat natuurlijk ook een rol speelt in duurzaamheid is het gebruik van water en stroom. HPC en AI gebruiken veel compute power, maar hoeveel energie en water je gebruikt hangt af van hoe je koelingssysteem hebt ingericht. “Vele traditionele systemen maken gebruiken van ventilatoren en waterkoeling waarbij water verdampt (Evaporative Cooling). Het gevolg kan zijn dat er dan enorme hoeveelheden zoet water gebruikt worden.

“Om de supercomputer te koelen, worden eigenlijk twee koelsystemen gebruikt. De eerste is het datacenterkoelsysteem. Dat is de koelinstallatie zelf, hierover beschikt elk datacenter (primary water loop). Aanvullend hierop is de Cool Tower die typisch op het dak van het datacentrum geplaatst wordt en door Dry Cooling techniek de vloeistof in de primary loop weer afkoelt. In Nederland is dit potentieel zonder gebruik te maken van koelmachines, maar door de temperatuur van de buitenlucht. Dat scheelt ontzettend veel energie.”

Slechts 2 procent blijft in het datacenter

Bij Lenovo’s direct warm watergekoelde HPC en AI-servers wordt 98 procent van de warmte die in servers ontstaat afgedragen aan het water in de gesloten secondary water loop. Er blijft twee procent van de totale hitte over die het datacenter ingaat. Doordat deze oplossingen geen gebruik meer hoeven te maken van ventilatoren in de servers, besparen we minimaal vijftien procent energie en daarmee dus kosten Het is ook geen gekoeld water dat het datacenter in gaat, het is zo’n 45 graden en met 55 tot 60 graden komt het er weer uit nadat de warmte van de servers is afgedragen aan het water.”

Het hele systeem, inclusief de koeling aan de lucht, zorgt voor een besparing van zo’n veertig procent op de stroomrekening van het datacentrum. Maar de besparing kan nog groter door het verwarmde water niet af te laten koelen door lucht, maar in te zetten voor andere zaken. “Wat we bij een aantal klanten doen is het warme water gebruiken om bijvoorbeeld de vloerverwarming van de Universiteit Campus te voeden in de winter. Dan maak je het nog efficiënter.”

De impact van AI op datacenters

Nog niet iedereen is zich bewust hoe datacenters veranderen en zullen veranderen in de toekomst. Enerzijds zie je dat je minder ruimte nodig hebt om evenveel data op te slaan en te verwerken en anderzijds zie je dat eisen veranderen, zoals koeling en energie. De meeste gebruikers realiseren zich niet helemaal hoe snel alles aan het veranderen is. Maar als je kijkt naar ChatGPT, dan zie je dat het snel kan gaan. Dan kan je maar beter nu alles op orde brengen.”