Advertentie
Nvidia heeft meer details bekendgemaakt over Blackwell Ultra, de nieuwste AI-accelerator van de techgigant. Er zijn verschillende upgrades aangebracht ten opzichte van de eerste Blackwell-chips. De techgigant claimt een uplift van maximaal 50% dankzij de nieuwe NVFP4-format. De massaproductie is volop aan de gang; klanten kunnen binnenkort de eerste leveringen verwachten.
Een Blackwell Ultra-chip bestaat net zoals de eerste versie van Blackwell uit twee 'reticle-sized dies', die via Nvidia's NV-HBI-interconnect (10 TB/s) met elkaar worden verbonden. Overeenkomstige eigenschappen met de vorige generatie zijn het gebruik van TSMC's 4NP-procedé en 208 miljard transistors. Waar GB200 144 streaming multiprocessors (18.432 cuda-cores) biedt, gaat GB300 Ultra tot 160 SM's en 20.480 cuda-cores.
Elke Blackwell Ultra-package bevat 288 GB hbm3e-geheugen. Dat is precies de helft meer van GB200, die het met 192 GB moest doen. De bandbreedte van 8 TB/s is identiek. De aanzienlijk hogere capaciteit stelt de nieuwe generatie in staat om AI-modellen met biljoenen parameters te draaien.
De verhoogde specificaties komen wel met een prijs. Zo verhoogt Nvidia het stroomverbruik van 1.200 watt tot 1.400 watt. Volgens Nvidia's claims biedt Blackwell Ultra in ruil daarvoor wel een flinke uplift ten opzichte van Blackwell: 1,5 keer meer in NVFP4, ofwel 7,5 keer zoveel ten opzichte van de voorgaande Hopper-architectuur.
| GB300 Grace Blackwell Ultra | GB200 Grace Blackwell | |
| GPU | Blackwell Ultra | Blackwell |
| CPU | Grace-Superchip (72 Arm-cores) | Grace-Superchip (72 Arm-cores) |
| CPU-geheugen | 480 GB LPDDR5X, 512 GB/s | 480 GB LPDDR5X, 512 GB/s |
| NVFP4 Tensor Core (Dense/Sparse) | 15 / 20 PFLOPS | 10 / 20 PFLOPS |
| FP8/FP6 Tensor Core (Dense/Sparse) | 5 / 10 PFLOPS | 5 / 10 PFLOPS |
| INT8 Tensor Core (Dense/Sparse) | 157,5 / 315 TFLOPS | 105 / 210 TFLOPS |
| FP16/BF16 Tensor Core (Dense/Sparse) | 2,5 / 5 PFLOPS | 2,5 / 5 PFLOPS |
| TF32 Tensor Core (Dense/Sparse) | 1,25 / 2,5 PFLOPS | 1,25 / 2,5 PFLOPS |
| FP32 | 80 TFLOPS | 80 TFLOPS |
| FP64 Tensor Core (Dense) | 1,3 TFLOPS | 40 TFLOPS |
| HBM | 288 GB (HBM3E) | 192 GB (HBM3E) |
| Bandbreedte | 8 TB/s | 8 TB/s |
| NVLink-Interface | 1,8 TB/s | 1,8 TB/s |
| PCIe-Interface | PCIe 6.0 | PCIe 6.0 |
| TGP | 1.400 W | 1.200 W |
| Servervariant | GB300 NVL72 | GB200 NVL72 |
| Gecombineerde hoeveelheid HBM | 20,7 TB (HBM3E) | 13,5 TB (HBM3E) |
| Gecombineerde bandbreedte HBM | 576 TB/s | 576 TB/s |