Advertentie
Vorige week liet het bedrijf meer zien van zijn plannen. Voor AI-gebruik biedt het krachtige chips die het NPU’s noemt; chips die puur bedoeld zijn voor het verwerken van AI en niet afgeleid zijn van een videokaart. Op het Connect-evenement liet het een roadmap tot 2029. Begin volgend jaar komt de Ascend 960DT op de markt. Deze chip heeft 288 GB HBM-geheugen en kan tot 2 PFLOPs op FP8 and 4 PFLOPs op FP4 realiseren. In het derde kwartaal van volgend jaar volgt de Ascend 960PR met 192 GB HBM, maar met een verbeterde architectuur. Dat model biedt ook tot 2 PFLOPs op FP8 en maar liefst 8 PFLOPs op FP4, een verdubbeling van het DT-model. In 2028 moet de Ascend 970 volgen. Hier wordt 256 GB HBM op 14,4 TB/s toegepast en hier gaat de FP8-performance naar 3,6 en FP4 naar 14 PFLOPS. De Ascend 980 wordt in 2029 verwacht en moet op FP8 7,2 PFlops s moeten bieden, voor FP4 wordt hier 28 PFLOPS beloofd. Dit model moet 384 GB, 38,4 TB/s HBM-geheugen meekrijgen.
Ter vergelijk: AMD introduceerde eerder dit jaar de Instinct MI455X. Dit model moet 40,26 PFLOPS voor FP4 gaan bieden en 20,13 voor FP8. Nvidia’s Vera Rubin levert 50 PFLOPS op FP4 en 25 op FP8. Huawei is dus bezig met een inhaalrace.
De serverprocessors van Huawei worden Kunpeng genoemd. Ook hiervoor heeft het een roadmap getoond. Dit jaar heeft het een model 96 cores op het programma. Deze Kunpeng 950 moet overweg kunnen met 192 threads. Begin 2028 moet de Kunpeng 960 volgen met verbeterde cores, die met hetzelfde aantal cores als de 950, vijftig procent extra prestaties moet bieden. Van deze chip komt ook een variant met 256 cores / 512 threads op de markt.
De chips worden ook in de Atlas-SuperPoD’s gebruikt, waarbinnen tot 4.096 NPU’s gecombineerd kunnen worden. Door meerdere SuperPoD’s te combineren kunnen tot 1 miljoen NPU’s worden geclusterd.
Open source
De basis van de strategie van Huawei is open source. Daarmee wil het de mogelijkheden van de AI-systemen zo breed mogelijk beschikbaar maken. Het systeem ondersteunt inmiddels meer dan 90 open-sourceprojecten. Belangijke AI-omgevingen zoals PyTorch zijn beschikbaar en ook Triton, vLLM en veRL. Inmiddels zijn al veertig modellen getraind op de systemen van Huawei.
