Advertentie
De AMD Instinct MI455X is gebaseerd op de CDNA 5-architectuur van AMD, wordt geproduceerd op het 2nm-proces van TSMC en bevat 320 miljard transistors. Voor het uitvoeren van AI-taken is het geheugen van de gpu van groot belang. De nieuwe chip beschikt over maar liefst 432 GB geheugen op 23,3 TB/s. Dat is aanmerkelijk meer dan de concurrentie op dit moment biedt. Behalve over een grotere hoeveelheid geheugen beschikken de chips ook over een vergrote geheugenbandbreedte, zodat taken sneller en efficiënter kunnen worden uitgevoerd. Dit betekent dat de nieuwe chips een veel hogere tokendoorvoer kunnen behalen.
AMD past ROCm toe als alternatief voor Nvidia CUDA. De afgelopen tijd is de ondersteuning van het systeem sterk verbeterd. Zo zijn veel modellen op het populaire platform Hugging Face compatibel met de GPU’s.
De nieuwe GPU heeft 192 HBM4-geheugenkanalen en 192 GB L2-cache. De GPU beschikt over I/O met twee PCI Express 6-interfaces of drie AMD AI-NIC’s. Doordat de nieuwe GPU over meer geheugen beschikt, kan er meer caching plaatsvinden en kan er met grotere modellen worden gewerkt. Voor veel belangrijke taken is de nieuwe GPU tot vier keer zo snel als zijn voorganger. Nieuw is ook de mogelijkheid om data efficiënter in het geheugen te verplaatsen, zonder dat de WGP’s hiermee bezig hoeven te zijn. De krachtige GPU’s kunnen bovendien worden verdeeld in onafhankelijk werkende delen, maar ook samenwerken als één geheel.
Voor veel belangrijke taken is de nieuwe GPU tot vier keer zo snel als zijn voorganger. Nieuw is ook de mogelijkheid om data efficiënter in het geheugen te verplaatsen, zonder dat de WGP’s hiermee bezig hoeven te zijn. De krachtige GPU’s kunnen bovendien worden verdeeld in onafhankelijk werkende delen, maar ook samenwerken als één geheel.
Dit schema toont een logisch diagram van de XCD's. Dit zijn de acceleratorcomplex-chiplets, en daarin bevinden zich de werkprocessoren (WGP). Elk van deze XCD's heeft twee shader-engines.Iedere shader-engines heeft zeventien WGP’s. Fysiek zijn er 16 geactiveerd. We gebruiken er één voor de opbrengst. En die twee shader-engines worden vervolgens verpakt in een chiplet.
Instinct MI350P
Een maatje kleiner is de nieuee MI350P. Deze gpu is bedoeld voor gebruik in servers in een bedrijf of het eigen datacenter van organisaties. AMD belooft tot ruim vier keer de prestaties per geinvesteerde dollar te bieden dan Nvidia met zijn RTX 6000 Pro.
