Nieuws

Videokaarten

AMD Instinct MI325X met 288 GB HBM3e komt eind 2024 naar datacenters

Portret van de auteur


AMD Instinct MI325X met 288 GB HBM3e komt eind 2024 naar datacenters
0

Advertentie

Naast de Zen 5-processors voor desktops, laptops en servers heeft AMD tijdens zijn Computex-keynote ook meer informatie gedeeld over zijn Instinct-accelerators voor servers. Zo heeft het bedrijf bevestigd dat MI325X eind dit jaar uitkomt. Daarnaast komt er een roadmap aan bod die bevestigt dat er jaarlijks een nieuw Instinct-product wordt uitgebracht.

MI325X moet in het vierde kwartaal van dit jaar beschikbaar zijn. Deze opgefriste versie van MI300X biedt dankzij het gebruik van hbm3e 288 GB geheugen, ten opzichte van de 192 GB HBM3 van zijn voorganger. Ook de bandbreedte is opgedreven van 5,3 TB/s tot 6 TB/s. Hierdoor is MI325X naar eigen zeggen 30 procent sneller dan Nvidia’s bestaande H200 in FP16 en FP8. Een server met acht accelerators moet AI-modellen met een biljoen parameters kunnen draaien, ofwel het dubbele van de H200.


Waar MI325X is gebaseerd op de CDNA 3-architectuur, wordt in 2025 MI350 met CDNA 4 verwacht. Deze accelerator wordt vervaardigd op TSMC’s 3nm-node en is compatibel met het platform van de MI325X en MI300X. Op het gebied van inferentie moet CDNA 4 tot 35 keer sneller zijn dan CDNA 3, dat op zijn beurt tot acht keer sneller is dan CDNA 2. Op het gebied van concrete claims meldt AMD dat MI350 de helft meer geheugen biedt dan Nvidia’s Blackwell-gebaseerde B200 en een vijfde sneller is in AI-prestaties.