Advertentie
Met de Instinct MI350P plaatst AMD een pcie-gebaseerde oplossing tussen de Radeon AI Pro- en Instinct MI UBB8-modellen. Zoals de naam van de serie al doet vermoeden, is de Instinct MI350P gebaseerd op de CDNA-4 architectuur. Het lokaal uitvoeren van AI-onderzoek bereikt bepaalde grenzen met de hardware die AMD aanbiedt in de vorm van de Radeon AI Pro-serie, vanwege de steeds grotere AI-modellen en de hogere eisen die aan rekenkracht worden gesteld. De Instinct MI350P moet hier een oplossing voor bieden: AI-modellen met ongeveer 200 miljard parameters moeten op de nieuwe accelerator passen.
De AI-accelerators uit de Instinct MI300-serie werden vorig jaar juni gepresenteerd. In principe zijn er hier twee modellen, de Instinct MI350X en Instinct MI355X, die als OAM-modules alleen verschillen in hun tdp van respectievelijk 1.000 en 1.400 watt.
De Instinct MI350P gebruikt half zoveel compute units als zijn grote broers. Specifiek gaat het over 128 rekeneenheden, verdeeld over acht XDC's op dezelfde package. De geheugeninterface is ook maar half zo breed met 4.096 bits, wat ook invloed heeft op de geheugencapaciteit. Zo is er 144 GB hbm3e beschikbaar, waardoor de Instinct MI350P een maximale geheugenbandbreedte van 4 TB/s heeft.
De TDP kan geconfigureerd worden tussen 450 en 600 W en de theoretische rekenkracht varieert overeenkomstig, afhankelijk van het datatype. Vergeleken met de Instinct MI350X hebben we het echter over ongeveer de helft - 1.150 tflops in BF16 en FP16, 2.300 tflops in FP8 en MXFP8, gevolgd door 4.600 tflops in MXFP6 en MXFP4.
Het is niet mogelijk om meerdere Instinct MI350P-kaarten te combineren via Infinity Fabric Link. Er kunnen echter wel acht van deze gpu's in één node worden gecombineerd. De communicatie vindt dan plaats via pcie 5.0.
De hele kaart en vooral de gpu-package worden gekoeld door groot koellichaam dat de hele kaart bedekt. Dit is een FHFL dual-slot ontwerp, dat zonder ingebouwde fans vertrouwt op de airflow die door de server wordt voorzien. Dit is bedoeld om de afvalwarmte van maximaal 600 W af te voeren. Extra voeding wordt geleverd via een 12V-2x6-aansluiting aan de achterkant van de kaart.
De Instinct MI350P zal binnenkort verkrijgbaar zijn bij oem's zoals Dell, Cisco, HPE, Supermicro en Lenovo. De adviesprijs is nog niet bekend.
YouTube Privacymelding
Op deze positie willen we je een YouTube-video tonen. We vinden het belangrijk om je gegevens te beschermen. Youtube wil voor het afspelen van video cookies op je computer plaatsen, waarmee je eventueel gevolgd kan worden. Wanneer je de video toch wil bekijken, kun je op de Play-knop klikken. De video wordt daarna geladen en afgespeeld.
Het TechnologyInsider-team
Youtube Video direct afspelen.