Fujitsu middleware moet AI-modellen efficiënter trainen
Fujitsu heeft een nieuwe middleware aangekondigd voor AI-computing, een laag software tussen het besturingssysteem en de eigenlijke apps. De technologie zou een oplossing moeten bieden voor het globale tekort aan GPU’s, door het gebruik de bestaande grafische processor units te optimaliseren.
In uitgevoerde testen werkt de middleware vooral de efficiëntie van de rekenkracht (compute) in de hand. Die laatste is broodnodig voor het trainen van AI-modellen. De honger van de wereldwijde industrie naar meer AI-modellen is een van de redenen waarom er een tekort is aan GPU’s en geavanceerde chips. Volgens Fujitsu zorgt zijn middleware in testen voor een verhoging van 2,25 in computationele efficiëntie, met een stevige verbetering in AI-processen tot gevolg.
De technologie zou ook instaat zijn om tot 150GB aan AI-berekeningen tegelijk te maken, zo’n vijf keer meer dan de fysieke geheugenopslag van een standaardmodel GPU. Met de middleware zou je dus meerdere AI-processen tegelijk kunnen draaien zonder het systeem te overladen.
In samenwerking met Data News.
