Cisco biedt nieuwe AI ready datacenter infrastructuur toepassingen

Voor deze belangrijke fase is de nieuwe Cisco UCS C885A M8 Server een krachtpatser die is ontworpen om de meest veeleisende AI-trainingstaken aan te pakken. Met zijn high-density configuratie van NVIDIA H100 en H200 Tensor Core GPU's, gekoppeld aan de efficiëntie van NVIDIA HGX-architectuur en AMD EPYC-processors, biedt UCS C885A M8 de ruwe rekenkracht die nodig is voor het verwerken van enorme datasets en complexe algoritmen. Bovendien maken de vereenvoudigde implementatie en het gestroomlijnde beheer het voor zakelijke klanten gemakkelijker dan ooit om AI te omarmen, aldus Cisco.

Schaalbare netwerkstructuur voor AI-connectiviteit

Om GenAI-modellen te trainen, werken clusters van deze krachtige servers vaak samen, wat een immense datastroom genereert die een netwerkstructuur vereist die hoge bandbreedte met minimale latentie aankan. Dit is waar de onlangs uitgebrachte Cisco Nexus 9364E-SG2 Switch imn kan voldoen. De 800G-aggregatie met hoge dichtheid zorgt voor een soepele datastroom tussen servers, terwijl geavanceerd congestiebeheer en grote buffergroottes pakketverlies minimaliseren, waardoor de latentie laag blijft en de trainingsprestaties hoog. De Nexus 9364E-SG2 dient als hoeksteen voor een zeer schaalbare netwerkinfrastructuur, waardoor AI-clusters naadloos kunnen worden uitgebreid naarmate de behoeften van de organisatie toenemen.

Eenvoud in aankoop

Zodra deze krachtige modellen zijn getraind, heeft de organisatie infrastructuur nodig die is geïmplementeerd voor inferencing om daadwerkelijke waarde te bieden, vaak in een gedistribueerd landschap van datacenters en edge-locaties. "We hebben dit proces aanzienlijk vereenvoudigd met nieuwe Cisco AI POD's die de implementatie van de volledige AI-infrastructuurstack zelf versnellen. Ongeacht waar u zich bevindt op het spectrum van use cases die aan het begin van deze blog zijn genoemd, AI POD's zijn ontworpen om een ​​plug-and-play-ervaring te bieden met NVIDIA accelerated computing. De vooraf gedimensioneerde en vooraf gevalideerde bundels infrastructuur elimineren het giswerk bij het implementeren van edge inferencing, grootschalige clusters en andere AI inferencing-oplossingen, met meer use cases die gepland staan ​​voor release in de komende maanden", zo meldt Cisco.

Cisco vervolgt: "Ons doel is om klanten in staat te stellen om vol vertrouwen AI POD's te implementeren met voorspelbaarheid rond prestaties, schaalbaarheid, kosten en resultaten, terwijl de tijd tot productieklare inferencing wordt verkort met een volledige stapel infrastructuur, software en AI-toolsets. AI POD's omvatten NVIDIA AI Enterprise , een end-to-end, cloud-native softwareplatform dat data science-pipelines versnelt en AI-ontwikkeling en -implementatie stroomlijnt. AI POD's worden beheerd via Cisco Intersight en bieden gecentraliseerde controle en automatisering, waardoor alles van configuratie tot dagelijkse activiteiten wordt vereenvoudigd, met meer use cases in het verschiet."

Cloud-geïmplementeerd en cloud-beheerd

Om organisaties te helpen hun datacenteractiviteiten te moderniseren en AI-use cases mogelijk te maken, vereenvoudigt Cisco de implementatie en het beheer van infrastructuur verder met Cisco Nexus Hyperfabric, een fabric-as-a-service-oplossing die eerder dit jaar werd aangekondigd op Cisco Live. Cisco Nexus Hyperfabric beschikt over een cloud-managed controller die het ontwerp, de implementatie en het beheer van de netwerkfabric vereenvoudigt voor consistente prestaties en operationeel gemak. De hardwareversnelde prestaties van Cisco Nexus Hyperfabric, met zijn inherente hoge bandbreedte en lage latentie, optimaliseren AI-inferencing, wat snelle responstijden en efficiënt resourcegebruik mogelijk maakt voor veeleisende, realtime AI-toepassingen. Bovendien bieden de uitgebreide monitoring- en analysemogelijkheden van Cisco Nexus Hyperfabric realtime inzicht in netwerkprestaties, wat proactieve probleemidentificatie en -oplossing mogelijk maakt om een ​​soepele en betrouwbare inferencingomgeving te behouden.

Door een reeks van oplossingen te bieden, van krachtige trainingsservers en netwerken met hoge prestaties tot vereenvoudigde implementaties van inferentie, stellen we ondernemingen in staat hun AI-initiatieven te versnellen, het volledige potentieel van hun gegevens te benutten en zinvolle innovatie te stimuleren, aldus Cisco

Beschikbaarheidsinformatie en meer

De Cisco UCS C885A M8 Server is nu te bestellen en zal naar verwachting eind dit jaar naar klanten worden verzonden. De Cisco AI POD's zijn in november te bestellen. De Cisco Nexus 9364E-SG2 Switch is te bestellen in januari 2025 en is beschikbaar vanaf het eerste kwartaal van kalenderjaar 2025. Cisco Nexus Hyperfabric is vanaf januari 2025 te koop bij meer dan 30 gecertificeerde partners. Hyperfabric AI is vanaf mei beschikbaar en omvat een plug-and-play AI-oplossing inclusief Cisco UCS-servers (met ingebedde NVIDIA-versnelde computing en AI-software) en optionele VAST-opslag.