Advertentie
Servers in datacenters krijgen steeds krachtigere GPU’s. Hoewel het energieverbruik daarmee toeneemt, leveren die chips ook aanzienlijk betere AI-prestaties. Volgens Javier Perman van Nvidia verbruikt een nieuwe generatie GPU’s ongeveer twee keer zoveel, maar kan die tot veertien keer meer AI-tokens verwerken. Daardoor zijn nieuwe GPU’s per saldo een stuk efficiënter dan oudere modellen.
Dat hogere verbruik brengt nieuwe uitdagingen met zich mee. Enerzijds wordt de voeding complexer en omvangrijker, waardoor fabrikanten inzetten op verbeteringen in de stroomketen. Bedrijven als Siemens, ABB, Schneider Electric en Rittal werken aan oplossingen waarbij (delen van) de stroomvoorziening buiten de server worden geplaatst. Daarbij wordt de omzetting van wisselstroom naar gelijkstroom ondergebracht in aparte units naast het serverrack.
Dat hogere verbruik brengt nieuwe uitdagingen met zich mee. Enerzijds wordt de voeding complexer en omvangrijker, waardoor fabrikanten inzetten op verbeteringen in de stroomketen. Bedrijven als Siemens, ABB, Schneider Electric en Rittal werken aan oplossingen waarbij (delen van) de stroomvoorziening buiten de server worden geplaatst. Daarbij wordt de omzetting van wisselstroom naar gelijkstroom ondergebracht in aparte units naast het serverrack.
Schneider Electric werkt bijvoorbeeld aan een voeding die tot 1 megawatt kan leveren. Binnen OCP lopen daarnaast trajecten om energiesystemen van onder meer Schneider Electric, ABB, Eaton en Siemens beter op elkaar aan te laten sluiten. Daarbij ligt de nadruk op veiligheid, schaalbaarheid en praktijktests, met als doel grootschalige implementaties op korte termijn.
Ook Google ging in op de energievoorziening van datacenters. Technologist Amber Huffman wees erop dat AI-workloads veel grilliger zijn dan traditionele datacentertoepassingen.
Huffman schetste bovendien een sterke groei in het gebruik van AI. Google draait workloads in eigen datacenters, maar ook in faciliteiten van derde partijen. Daarbij wordt gebruikgemaakt van onder meer eigen CPU’s, custom CPU’s, GPU’s van derden, optical circuit switching en waterkoeling.
