Advertentie
Nvidia-klanten zouden rekening moeten houden met prijsstijgingen van meer dan 15 procent voor bepaalde AI-serverconfiguraties. Dat meldt Bloomberg op basis van ingewijden. De hogere prijzen zouden vooral het gevolg zijn van sterk gestegen geheugenkosten en verschillen per chipgeneratie en geheugenconfiguratie. Nvidia heeft de prijsverhogingen niet officieel bevestigd en Reuters kon de informatie niet onafhankelijk verifiëren.
Volgens Bloomberg zijn enkele van Nvidia's grootste klanten inmiddels over de hogere prijzen geïnformeerd. Het zou gaan om systemen die vanaf begin 2027 worden geleverd. Ook serverfabrikanten die systemen bouwen voor grote datacenterbedrijven zouden klanten over de verwachte prijsstijgingen hebben ingelicht.
Het gaat daarbij niet om een algemene prijsverhoging van minimaal 15 procent voor alle Nvidia-producten. Volgens de ingewijden worden veel AI-serverconfiguraties meer dan 15 procent duurder, maar verschilt de uiteindelijke stijging afhankelijk van onder meer de gebruikte generatie accelerators en de hoeveelheid en het type geheugen in het systeem.
Geheugen vormt steeds groter deel van de kosten
De gemelde prijsverhogingen zijn vooral het gevolg van de sterk opgelopen geheugenprijzen. Moderne AI-accelerators gebruiken grote hoeveelheden HBM, oftewel High Bandwidth Memory. Dit geheugen wordt dicht bij de accelerator geplaatst en biedt veel meer bandbreedte dan conventioneel DRAM, wat belangrijk is voor het verwerken van grote AI-modellen.
De markt voor HBM wordt gedomineerd door Samsung, SK hynix en Micron. De drie fabrikanten breiden hun productiecapaciteit uit, maar de vraag vanuit AI-datacenters groeit sneller dan ze kunnen (willen?) volgen.
Bovendien gebruiken AI-systemen niet alleen HBM. Complete servers en racks hebben ook grote hoeveelheden gewoon werkgeheugen nodig voor processors en andere onderdelen. Daardoor concurreert de AI-sector op meerdere fronten om beschikbare geheugencapaciteit.
De impact daarvan is inmiddels ook buiten de datacentermarkt zichtbaar. De prijzen van regulier DRAM en DDR5-geheugen swingen de pan uit, terwijl geheugenfabrikanten een financiële prikkel hebben om productiecapaciteit te gebruiken voor producten met hogere marges, zoals HBM.
Grace Blackwell en Vera Rubin getroffen
Volgens Bloomberg behoren systemen rond Nvidia's Grace Blackwell-platform en de komende Vera Rubin-generatie tot de producten waarvoor hogere prijzen worden verwacht. Vera Rubin volgt Blackwell op en is bedoeld voor een nieuwe generatie grootschalige AI-systemen.
Hoe groot de stijging per afzonderlijk systeem wordt, is nog niet duidelijk. De kosten hangen sterk samen met de precieze configuratie. Een server met meer accelerators en geheugen wordt bijvoorbeeld harder geraakt door hogere geheugenprijzen dan een minder zwaar uitgerust systeem.
Nvidia heeft de gemelde prijswijzigingen nog niet publiekelijk aangekondigd. De percentages moeten daarom voorlopig worden beschouwd als informatie van Bloombergs bronnen en niet als officiële prijslijst van de chipontwerper.
AI-vraag raakt nu ook AI-bedrijven zelf
De ontwikkeling illustreert een opvallend effect van de huidige AI-investeringsgolf. De bouw van grote AI-datacenters is zelf een belangrijke oorzaak van de sterk gestegen vraag naar geheugen. Die schaarste maakt vervolgens nieuwe AI-infrastructuur duurder.
Dat effect beperkt zich bovendien niet tot Nvidia. Concurrerende AI-accelerators zijn eveneens afhankelijk van HBM en ander geheugen. AMD gebruikt bijvoorbeeld eveneens HBM voor zijn Instinct-accelerators. Een overstap naar een andere leverancier lost het onderliggende tekort aan geheugencapaciteit daarom niet automatisch op.
Voor hyperscalers en andere grote AI-bedrijven kunnen prijsstijgingen van meer dan 15 procent aanzienlijke gevolgen hebben. Zij kopen geen afzonderlijke gpu's, maar investeren in complete servers en racks met grote aantallen accelerators. Bij datacenters met tienduizenden of zelfs honderdduizenden accelerators kunnen relatief kleine prijsverschillen daardoor al snel grote gevolgen hebben voor het totale investeringsbudget.
Daarbij zijn de accelerators en het geheugen slechts een deel van de rekening. Grootschalige AI-infrastructuur vereist ook snelle netwerkverbindingen, opslag, koeling en een omvangrijke energievoorziening.
Geheugenschaarste wordt bredere bottleneck
De geheugenmarkt dreigt daarmee steeds meer een beperkende factor te worden voor de verdere uitbreiding van AI-infrastructuur. Zonder voldoende HBM en ander geheugen kunnen die chips ook niet in complete systemen worden geleverd.
Of dit zal leiden tot een afname in groei is onduidelijk. De grote spelers investeren momenteel honderden miljarden in infrastructuur en kunnen hogere hardwarekosten waarschijnlijk absorberen.
De situatie laat vooral zien hoe de AI-boom doorwerkt in de rest van de hardwaremarkt. De sector die een groot deel van de extra vraag naar geheugen veroorzaakt, krijgt via hogere serverprijzen nu zelf eveneens met de gevolgen van die schaarste te maken.
