Advertentie
Gaudi 3 is de nieuwe AI-versneller van Intel. Het is de opvolger van Gaudi2 en wordt in een 5nm proces geproduceerd. Het nieuwe model moet aanmerkelijk betere prestaties bieden. De chip bevat 64 tensor cores en heeft 8 matrix engines. Om LLM-modellen efficiënt te verwerken, hebben de chips de beschikking over 128GB HBM-geheugen met een snelheid van 3,7GB/s en 96MB SRAM op 12,8TB/s. De chips bieden 1835 TFLOPS prestaties
Het bijzondere van de Gaudi-chips van Intel is dat ze samen kunnen werken via een standaard ethernetnetwerk. Ze hebben 24 200 gigabit porten aan boord. Zo kunnen relatief eenvoudig clusters worden ontwikkeld.
De Gaudi 3-chips worden aangeboden in verschillende varianten: een losse kaart om geplaatst te worden in een geschikte server, een PCI Express-kaart en een basisbord met acht Gaudi 3’s. Een basisbord met acht Gaudi 2’s heeft een prijs van 65.000 dollar op de prijslijst, de versie met de nieuwe Gaudi kost 125.000 dollar. Volgens Intel bieden de nieuwe chips veel hogere prestaties per dollar dan concurrent Nvidia’s H100.
