Advertentie
Elon Musk heeft op Twitter de AI-rekenkracht van xAI besproken, die onder meer wordt ingezet voor de chatbot Grok. Naast de huidige hardware komt ook een potentiële upgrade aan bod, die flink wat geld zou kunnen kosten.
Zo geeft Musk aan dat de xAI-cluster met 100.000 watergekoelde Nvidia H100-chips binnen enkele maanden gebruiksklaar moet zijn. Gezien de snelheid waarmee de technologie wordt verbeterd is het naar eigen zeggen niet het energieverbruik waard om grotere configuraties op poten te zetten. Een datacenter met 1 miljoen H100’s zou bijvoorbeeld maar liefst 1 gigawatt aan prik verbruiken.
X (Twitter) Privacymelding
Op deze positie willen we je een Twitter-feed tonen. We vinden het belangrijk om je gegevens te beschermen. X wil voor het afspelen van een feed cookies op je computer plaatsen, waarmee je eventueel gevolgd kan worden. Wanneer je de feed toch wil bekijken, kun je op de feed klikken. De feed wordt daarna geladen en getoond.Toon tweets vanaf nu direct
Om deze reden verwacht de Twitter-baas dat de volgende stap waarschijnlijk een opstelling met ongeveer 300.000 B200-chips wordt, die in de loop van “de volgende zomer” klaar zou moeten zijn. Deze accelerators zouden via Nvidia’s CX8-netwerk aan elkaar worden gelinkt.
Indien xAI daadwerkelijk aan de slag wil gaan met een dergelijke hoeveelheid Blackwell-chips, zal het bedrijf diep in de buidel moeten tasten. Nvidia-ceo Jensen Huang heeft namelijk aangegeven dat deze gpu’s een prijskaartje van 30.000 à 40.000 dollar gaan krijgen. Afhankelijk naar wat voor configuraties deze bedragen verwijzen zou de voorgenoemde opstelling tussen 9 en 12 miljard Amerikaanse dollar kunnen kosten.