StorageX brengt compute naar de dataopslag
Moderne AI-systemen zitten fundamenteel anders in elkaar dan gebruikelijk IT-systemen. Voor de AI-rekentaken is vanuit de rekenprocessoren veelvuldig toegang nodig tot de data die verwerkt moet worden. Als storage en compute verder uit elkaar liggen, bijvoorbeeld door een storage oplossing in de cloud, gaat de latency een probleem opleveren. De Chinees/Amerikaanse startup StorageX, heeft deze uitdaging gezien en werkt aan een solide oplossing.
Dutch IT Channel had het genoegen om StorageX CEO Stephen Yuan tijdens de recente IT Press Tour te kunnen spreken. Vol verve vertelde hij over het probleem van data en compute die verder uit elkaar liggen en hoe hij denkt dit op te lossen is. Het gebruik van Generatieve AI verijst immers het veredelen van heel veel ruwe data. Daarmee zijn deze taken veel data-intensiever dan “gewone” opdrachten in de IT.
CEO Stephen Yuan stelt: "Het verplaatsen van rekenkracht is eenvoudiger en efficiënter dan het verplaatsen van gegevens. Deze strategie levert voordelen op bij huidige en toekomstige toepassingen die veel data verwerken. De crux tot het verbeteren van de computerefficiëntie is daarom het verbeteren van de efficiëntie in de processen en het verplaatsen van rekenkracht. Dit zal een effectievere oplossing zijn dan het verplaatsen van data."
Yuan: “Ons product maakt real-time analyses en machine learning mogelijk, pakt uitdagingen in de infrastructuur als gevolg van de exponentiële gegevensgroei en I/O-knelpunten aan en zorgt voor een lagere latentie in de berekeningen in het post-Moore-tijdperk. Via hardware versnelde data- en I/O-prestaties en schaalbaarheid, maken we applicaties in datacenters mogelijk met een betere efficiëntie en een hogere doorvoer, terwijl we gelijktijdig de TCO verlagen.”
Potentiële toepassingen zijn er te over. Te denken valt aan datacenters, streaming mediadiensten en autonoom rijden. Steven stelt dat de StorageX CSP-chips en -systemen (Computational Storage Processing) de inzet van high-performance near-data computing mogelijk kunnen maken, krachtige AI-rekenkracht ontsluiten alsmede dataversnellingsmogelijkheden bieden en daardoor softwareplatforms kunnen verbeteren.
StorageX definieert de computational opslagarray als een systeem dat rekenkracht, besturingssoftware en andere functies combineert. Steven is van mening dat AI-workloads nieuwe processorontwerpen vereisen om de fundamentele problemen op te lossen, waarmee traditionele processoren worden geconfronteerd bij het omgaan met grote hoeveelheden data. Datacentrisch computergebruik (opslagknooppunten plus CSP's) zal de opvolger zijn van GPU-gebaseerde verwerkingsversnelling en CPU's ondersteund door DPU's (Data Processing Units) aangevuld met netwerkoptimalisatie.
Het Lake Ti P100-product bevat een AI-engine (CSP/XPU), versnellers voor de data doorvoer en I/O-versnelling in één unit, die nauw is geïntegreerd met een opslagsysteem en het data-knooppunt. Het heeft een dubbel netwerk van 100 Gbps en is ontworpen voor data-centrisch computergebruik. Met andere woorden, Lake Ti is een ondersteunende gegevensverwerker die is aangesloten op een opslagsysteem voor data.
Door: Hans Steeman
Meer over data
Over Hans Steeman
