Nieuws

Cloud

Microsoft kocht dit jaar bijna 500.000 NVIDIA Hopper-GPU’s voor AI-infrastructuur

Portret van de auteur


Microsoft kocht dit jaar bijna 500.000 NVIDIA Hopper-GPU’s voor AI-infrastructuur
0

Advertentie

Microsoft investeert fors in zijn clouddienst en bedrijfsinfrastructuur om de enorme groei in AI-toepassingen te ondersteunen. Het bedrijf heeft dit jaar maar liefst 485.000 NVIDIA Hopper-GPU’s aangeschaft, waaronder de H100, H200 en H20-varianten.

Volgens marktonderzoeker Omdia spendeerde Microsoft alleen al meer dan $30 miljard aan servers om deze GPU’s in te zetten, waarmee het bedrijf bovenaan staat in de lijst van “hyperscalers”.

Groter dan de concurrentie

Ter vergelijking: de op één na grootste afnemer van GPU’s is het Chinese ByteDance, dat met 230.000 stuks ongeveer de helft van Microsofts aankoop heeft gedaan. Daarbij ging het om de H800-GPU’s (een versie die voldoet aan sanctievereisten) en reguliere H100-exemplaren, gebruikt bij derde partijen.

Ook andere Amerikaanse techgiganten zoals Meta, Tesla/xAI, Amazon en Google investeerden flink in AI-hardware, maar kwamen gemiddeld uit op zo’n 200.000 aangekochte NVIDIA-GPU’s. Tegelijkertijd steken deze partijen veel geld in de ontwikkeling van eigen AI-chips; Google bouwt bijvoorbeeld verder aan zijn TPU-line-up, terwijl Amazon met Trainium en Inferentia werkt en Meta zijn MTIA-architectuur ontwikkelt.

NVIDIA houdt voorlopig de touwtjes in handen

Ondanks deze toenemende concurrentie van eigen silicon, behoudt NVIDIA een sterke positie. Dat komt onder andere door de robuuste softwarestack en de timing van productintroducties. Volgens Vlad Galabov, directeur cloud & data center research bij Omdia, is de investeringspiek in AI-hardware in zicht, maar staat NVIDIA klaar met volgende generaties, zoals de Blackwell-serie. Hierdoor lijkt de vraag alleen maar te groeien, en kan de uiteindelijke limiet vooral worden bepaald door hoeveel stroom en koeling datacenters kunnen leveren.

Met de gigantische investering in Hopper-GPU’s laat Microsoft zien dat het de strijd om AI serieus aangaat.
De beweging naar eigen AI-chips is weliswaar op gang aan het komen vanuit verschillende fronten, maar vooralsnog is NVIDIA heer en meester in deze markt. Het wordt interessant om te zien hoe deze verhoudingen veranderen als Google, Amazon en Meta hun eigen AI-hardware verder op orde krijgen — zeker nu ook NVIDIA met de Blackwell-reeks op het punt staat om de lat nog hoger te leggen.