Advertentie
De eisen aan het netwerk dat gpu’s in een AI-datacenter met elkaar verbindt, worden steeds hoger. HPE speelt hierop in met zijn Juniper-producten. Waar 800 gigabit vandaag de dag nog voldoende is, ligt de lat voor de volgende generatie gpu’s aanzienlijk hoger.
https://www.technologyinsider....Tijdens HP Discover licht Praful Lalchandani, VP Product Management bij HPE Networking, de marktontwikkelingen toe:“AI groeit met vijftig procent per jaar. Het is dus een razendsnel groeiende markt. Voor het trainen van modellen met een miljard parameters zijn duizenden gpu’s nodig, wat neerkomt op biljoenen parametermodellen en petabytes aan datasets. Slechts enkele bedrijven wereldwijd kunnen dit op die megaschaal doen.
De meeste organisaties richten zich op fine-tuning: het verder trainen van een vooraf getraind model met een kleinere, specifieke dataset, zodat het geschikt wordt voor een concrete bedrijfsapplicatie. Pas daarna begint het echte werk, namelijk de implementatie van die modellen. Het netwerk dat deze gpu’s verbindt, moet extreem snel en met minimale vertraging functioneren. Elk pakketverlies of communicatiestoring kan immers grote problemen veroorzaken. Wanneer bedrijven honderden miljoenen investeren in gpu-clusters, mag het netwerk geen bottleneck zijn.
De gpu’s communiceren in feite alsof ze één enkel geheugenadresbaar domein vormen. Dit wordt het scale-up netwerk genoemd. Vandaag de dag is dat domein grotendeels voorbehouden aan de gepatenteerde NVLink-technologie van NVIDIA. Toch zijn er pogingen om deze markt open te breken en alternatieve technieken toe te passen. Een voorbeeld hiervan is ESUN, een gecomprimeerde versie van Ethernet.
Voor deze markt introduceerde HPE gisteren de Juniper QFX5250: een watergekoelde switch met een verbruik van circa 4 kW en een capaciteit van 1,6 Terabit/s. Deze switch voldoet aan de eisen van de huidige generatie GPU’s. Maar met de GPU’s die volgend jaar verschijnen, zal deze capaciteit al ontoereikend zijn. Het is dus de vraag welke innovaties switches in de nabije toekomst zullen brengen.