Grace is de naam van de nieuwe processor van Nvidia, gebaseerd op ARM-architectuur en gericht op Artificial Intelligence-taken in grote servers.
Nvidia is een merk dat bij gebruikers over de hele wereld bekend is als een van de twee belangrijkste alternatieven voor grafische kaarten; modellen zoals de RTX 3080 laten zien dat het groene merk nog steeds de markt domineert in veel aspecten en nieuwe technologieën, zoals ray-tracing.
Maar Nvidia is veel meer dan videogames, en we hebben het niet over hoe de grafische afbeeldingen worden gebruikt om cryptocurrencies te minen; in feite wordt de professionele en serversector steeds belangrijker voor Nvidia, die zichzelf opnieuw wil uitvinden voor de toekomst.
Nvidia’s aankoop van ARM was een grote stap in die richting, en vandaag hebben we er nog een gezien: een processor, CPU, ontworpen door Nvidia. Maar betekent dat dat je binnenkort een computer zou kunnen hebben met alleen Nvidia-componenten?
Grace, de nieuwe processor van Nvidia
Toen we het hadden over de aankoop van ARM, hadden we al verwacht dat Nvidia op de lange termijn wilde uitbreiden naar de sector van kunstmatige intelligentie, en in die zin moeten we de presentatie van Grace, de processor van Nvidia, begrijpen.
Dit is een CPU gebaseerd op ARM-architectuur, zoals die wordt gebruikt in mobiele telefoons, maar vooral die wordt gebruikt in veel servers over de hele wereld. Maar dit model zal niet concurreren met Intel Xeon of AMD Epyc, ontworpen voor datacenters en grote servers; in plaats daarvan zal het zich specifiek richten op grote neurale netwerken.
Grace is geen op zichzelf staand product, maar is bedoeld om rechtstreeks te communiceren met grafische kaarten van Nvidia; met andere woorden, het is ‘ondersteuning’ voor het onderdeel dat het werk doet, en helpt bij het uitvoeren van biljoenen berekeningen in machine learning.
GPU-ondersteuning
Deze CPU is simpelweg geboren omdat Nvidia zich realiseerde dat grafische kaarten niet optimaal kunnen presteren, tenzij ze worden gecombineerd met bijpassende componenten. Dat is de reden waarom enkele van de meest verbazingwekkende functies van Grace zich bevinden in de CPU-naar-GPU-bandbreedte van niet minder dan 900 GB per seconde dankzij NVLink 4. Ook is de LPDDR5X-geheugenbandbreedte 500 GB per seconde, en dat is met ECC. Ten slotte kan elke Grace-CPU met elkaar communiceren met 600 GB per seconde.
Het voorstel van Nvidia is duidelijk: degenen die hun grafische kaart willen gebruiken voor machine learning, zullen dit kunnen doen met een NVLink 4-compatibele CPU; dat is het enige dat het volledige potentieel van de GPU’s zal ontgrendelen. En op zijn beurt moet het geheugen in het pakket komen, gokt op LPDDR5X vanwege zijn energie-efficiëntie.
Met dit alles doet Nvidia geweldige beloften, op zoek naar een vertienvoudiging van de prestaties op modellen met miljarden parameters. De GPU is nog steeds de prioriteit van Nvidia, maar met Grace probeert het bedrijf aan te tonen dat het bij deze specifieke taak beter werk kan leveren dan Intel en AMD, iets waarmee het een plaats op de markt zou kunnen verdienen in 2023, wanneer het gepland is om gelanceerd worden.
Grace is niet de eerste processor van Nvidia; het heeft ook de Tegra SoC’s (system-on-chip), waarvan sommige Denver-kernen gebruikten die door het bedrijf zijn ontwikkeld. Maar het is de eerste keer dat een CPU te koop wordt aangeboden.