Nvidia Grace CPU en Nvidia H100 werden onthuld op Nvidia GTC 2022. Nvidia heeft vandaag de volgende generatie Hopper GPU-architectuur en Hopper H100 GPU aangekondigd, evenals een nieuwe datacenterchip die de GPU combineert met een krachtige CPU, genaamd de ” Grace CPU Superchip” (niet te verwarren met Nvidia’s andere) Grace superchip).
Nvidia Grace CPU: specificaties, prijs en releasedatum
De Nvidia GPU Superchip is de eerste poging van het bedrijf tot een gespecialiseerde datacenter-CPU. De op Arm gebaseerde chip zal maar liefst 144 cores en 1 terabyte per seconde geheugenbandbreedte bevatten, volgens informatie die is gelekt door Intel. Het combineert eigenlijk twee Grace CPU’s die zijn aangesloten via Nvidia’s NVLink-interconnect – wat vergelijkbaar is met de M1 Ultra-architectuur van Apple.
De nieuwe CPU, die wordt aangedreven door snel LPDDR5X-geheugen, wordt naar verwachting in de eerste helft van 2023 geleverd en biedt 2x de prestaties van conventionele servers. Nvidia voorspelt dat de chip 740 punten zal behalen op de SPECrate®2017_int_base benchmark, waardoor hij het opneemt tegen high-end AMD- en Intel-datacenterprocessors (hoewel sommige daarvan hoger scoren, maar ten koste van lagere prestaties per watt ).
“Er is een nieuw type datacenter ontstaan: AI-fabrieken die bergen gegevens verwerken en verfijnen om intelligentie te produceren. De Grace CPU Superchip biedt de hoogste prestaties, geheugenbandbreedte en NVIDIA-softwareplatforms in één chip en zal schitteren als de CPU van ‘s werelds AI-infrastructuur.”
-Jensen Huang, oprichter en CEO van Nvidia
Deze nieuwe chip is in veel opzichten de natuurlijke ontwikkeling van de Grace Hopper Superchip en CPU die vorig jaar werden aangekondigd. De Grace Hopper Superchip combineert een CPU en GPU in een enkel systeem-op-een-chip-ontwerp. Dit systeem, dat ook in de eerste helft van 2023 zal debuteren, zal een 600 GB geheugen-GPU bevatten voor grote modellen en Nvidia beweert dat de geheugenbandbreedte 30x groter zal zijn dan de GPU van een basisserver. Deze processors zijn volgens Nvidia bedoeld voor “gigantische” AI en high-performance computertoepassingen.
De Grace CPU Superchip is een op Arm v9 gebaseerde SoC die kan worden gebruikt om stand-alone CPU’s of servers met maximaal acht Hopper-gebaseerde GPU’s te maken.
Het bedrijf geeft aan samen te werken met “toonaangevende HPC-, supercomputing-, hyperscale- en cloudklanten”, wat inhoudt dat deze systemen uiteindelijk beschikbaar zullen zijn bij een cloudprovider bij jou in de buurt.
Er is nog geen informatie over de prijs gedeeld.
Nvidia H100 GPU: specificaties, prijs en releasedatum
Nvidia brengt een aantal nieuwe en verbeterde technologieën uit met Hopper, maar de nadruk van de architectuur op transformatormodellen, die de voorkeurstechniek voor machine learning zijn geworden voor veel toepassingen en welke vermogensmodellen zoals GPT-3 en asBERT, is misschien wel de meest essentiële. .
De nieuwe Transformer Engine van de H100-chip belooft de modeltraining tot zes keer te versnellen, en omdat deze nieuwe architectuur ook Nvidia’s nieuwe NVLink Switch-systeem omvat voor het koppelen van talrijke knooppunten, kunnen enorme serverclusters aangedreven door deze chips worden opgeschaald om ondersteuning te bieden. enorme netwerken met minder overhead.
“De grootste AI-modellen kunnen maanden nodig hebben om te trainen op de hedendaagse computerplatforms. Dat is te traag voor bedrijven. AI, high-performance computing en data-analyse worden steeds complexer en sommige modellen, zoals grote taalmodellen, bereiken biljoenen parameters. De NVIDIA Hopper-architectuur is vanaf de grond af opgebouwd om deze AI-workloads van de volgende generatie te versnellen met enorme rekenkracht en snel geheugen om groeiende netwerken en datasets aan te kunnen.”
-Dave Salvator
De Tensor Cores van klanten, die naar behoefte 8-bits precisie en 16-bits halve precisie kunnen combineren en toch nauwkeurig blijven, worden gebruikt in de nieuwe Transformator motor.
Er is nog geen informatie over de prijs gedeeld.
