Advertentie
Arm heeft met de AGI CPU zijn allereerste eigen fysieke processor aangekondigd. Het bedrijf achter de gelijknamige architectuur leverde tot dusver enkel cpu-cores, die andere fabrikanten kunnen licentiëren om in hun eigen soc's en processors toe te passen. Zoals de naam doet vermoeden is de nieuwe processor bedoeld voor het versnellen van AI-workloads. Meta wordt de eerste grote klant die met de chip aan de slag gaat.
De AGI CPU wordt vervaardigd op TSMC's 3nm-node en bestaat uit twee chiplets. Arm zegt dat de geheugen- en i/o-controller op dezelfde die zitten, wat suggereert dat de rekenkracht op de andere chiplet zit. De processor biedt tot 136 Arm Neoverse V3-cores, met 2 MB L2-cache per rekenkern en een kloksnelheid van maximaal 3,7 GHz.
Elke chip kan overweg met 6 TB aan ddr5-geheugen met snelheden tot 8.800 MT/s, 6 GB/s bandbreedte per rekenkern en een geheugenlatentie van "minder dan 100 nanoseconden". Het tdp is gespecificeerd op 300 watt. De uitbreidingsopties bestaan uit 96 pcie 6.0-lanes, CXL 3.0 en AMBA CHI-extenties.
Arms referentieserver bestaat uit een 1OU, 2-node-ontwerp, met twee chips en dus 272 cores per blade. Deze blades kunnen per 30 in een rack geplaatst worden, wat 8.160 cpu-kernen oplevert. Arm heeft samen met Supermicro aan een 200kW-waterkoelingssysteem gewerkt om de temperatuur van 336 Arm AGI CPU's onder controle te houden. Arm schat dat de processor in deze configuratie meer dan twee keer zoveel prestaties kan leveren per rack ten opzichte van de nieuwste x86-gebaseerde systemen.
De Arm AGI CPU gaat op grote schaal toegepast worden in de gigawatt-scale infrastructuur van Meta. De Arm-processors gaan hierbij samenwerken met Meta's eigen MTIA-accelerators. Andere releasepartners zijn onder meer Cerebras, Cloudflare, F5, OpenAI, Positron, Rebellions, SAP en SK Telecom. ASRockRack, Lenovo en Supermicro gaan systemen op basis van de AGI CPU aanbieden.