- Details
- Geschrieben von: Frank Everaardt
- Kategorie: Artikelen - Servers
De ontwikkelingen in de serverwereld gaan razendsnel, en Supermicro groeit mee. We spreken met Vik Malyala, Managing Director & President EMEA, over AI, geopolitiek en technologische trends.
Van cloud naar eigen infrastructuur
We bevinden ons in een transitie: waar bedrijven eerst massaal naar de cloud gingen, zien we nu dat steeds meer taken teruggehaald worden naar on-premise servers. Malyala: “Het is een hybride situatie. De cloud verdwijnt niet, maar we krijgen steeds vaker vragen van klanten die AI-taken liever op eigen servers uitvoeren. Niet alleen de verwerking, maar ook de opslag van AI-data wordt steeds vaker lokaal geregeld.”
Geopolitiek en datasoevereiniteit
Er is veel discussie over het terughalen van IT naar eigen beheer of ten minste binnen Europa. “Klanten zitten vaak in een spagaat. Cloudproviders maken het eenvoudig om data op te slaan, maar het terughalen ervan is vaak complex. Enerzijds willen bedrijven de nieuwste technologieën benutten, anderzijds zorgt de geopolitieke situatie voor onzekerheid over databeheer.”
De waarde van data en de rol van IT-beheerders
“Data was altijd al waardevol, maar dankzij AI kunnen we nu veel sneller inzichten halen uit grote hoeveelheden informatie. De spreekwoordelijke naald in de hooiberg is makkelijker te vinden dan ooit.”
Waar eerder werd gedacht dat IT-beheerders overbodig zouden worden door de cloud, is hun rol nu juist cruciaal. “IT werd lange tijd ondergewaardeerd. Mensen waarderen beheerders pas als er iets misgaat. Grote bedrijven kunnen deze experts aantrekken en behouden, maar voor kleinere organisaties is dat lastiger. Daarom ontwikkelen wij systemen die eenvoudig te installeren en beheren zijn, zoals onze foolproof watergekoelde oplossingen.”
{nozuna nzimagefromgallery}67d4c982-aa4f-11f0-8b63-000c2932240f 0{/nozuna nzimagefromgallery}Technologische evolutie in serverdesign
De standaard 19-inch servers zullen plaats moeten maken voor grotere formaten door toenemende warmteontwikkeling en chipgrootte. “De serverdichtheid neemt toe, en snelle interne verbindingen worden steeds belangrijker. Traditionele voedingen voldoen niet meer. We zien een verschuiving naar 21-inch systemen, een extern voedingssysteem dat meerdere systemen voedt en een nieuwe geheugenarchitectuur met meerdere lagen. Denk aan HBM-geheugen dicht bij de CPU/GPU en LPDDR5-geheugen via CXL op afstand. Het is vergelijkbaar met mijn oude HiFi-set: losse componenten voor topkwaliteit versus een smartphone voor gemak.”
AI-blauwdrukken en klantondersteuning
“Het kiezen van het juiste AI-systeem is complex. Daarom bieden we blauwdrukken aan voor systemen met bijvoorbeeld RTX 6000 Pro of AMD-oplossingen. Klanten kunnen kiezen uit configuraties zoals 1U, 2U, 1 of 2 CPU’s. Het is nog geen kwestie van één druk op de knop, maar het is al veel eenvoudiger dan voorheen.”
AI-implementatie in sectoren
Voor toepassingen in bijvoorbeeld accountancy, logistiek of gezondheidszorg is expertise nodig. “Consultancybedrijven spelen hierin een sleutelrol, tenzij een organisatie de kennis zelf in huis heeft. De implementatie van AI lijkt op die van professionele software zoals Salesforce.”
AI staat nog in de kinderschoenen
“Net zoals je vroeger HTML moest kennen om een website te bouwen, en nu met WordPress snel een site maakt, moet AI zich nog ontwikkelen. In de gezondheidszorg liggen veel kansen, maar het is alsof we een paard hebben zonder zadel. Denk aan de evolutie van de smartphone: van de Nokia Communicator naar de iPhone, die het internetgebruik fundamenteel veranderde.”
Toekomst van datacenters
“Datacenters blijven zich ontwikkelen, vooral in Noord-Europa vanwege de beschikbaarheid van energie. Datasoevereiniteit wordt steeds belangrijker. We blijven luchtgekoelde systemen ontwikkelen vanwege hun eenvoud, en dankzij krachtige chips kunnen we taken die voorheen twee servers vereisten, nu op één server uitvoeren.”
[preisneu]#####[/preisneu]
- Details
- Geschrieben von: Frank Everaardt
- Kategorie: Artikelen - Servers
Het internet is fysieker dan vaak gedacht. Achter elke digitale dienst staan duizenden servers die continu operationeel zijn om nieuws, communicatie, video’s en AI-functionaliteit te ondersteunen. Een van de prominente spelers in deze markt is het Amerikaanse HPE, dat via een strategisch partnerschap met Foxconn een sterke Europese productievoetafdruk heeft.
{nozuna nzimagefromgallery}080cff07-a50c-11f0-8b63-000c2932240f 4{/nozuna nzimagefromgallery}In Kutná Hora, een stad in Tsjechië, bevindt zich een geavanceerde productiefaciliteit die oorspronkelijk door Sony werd opgezet en inmiddels is geïntegreerd in Foxconn’s wereldwijde netwerk. Deze Gigafactory is verantwoordelijk voor de assemblage van servers en racks voor HPE en levert maandelijks circa 30.000 servers en 500 racks. Opvallend is dat deze output het inwoneraantal van Kutná Hora (ca. 20.000) ruimschoots overstijgt.
Mark Armstrong van HPE licht toe: “Lokale productie biedt aanzienlijke voordelen. Klanten beschikken sneller over hun systemen, en dankzij uitgebreide pre-shipment tests kunnen zij hun infrastructuur vrijwel direct in gebruik nemen.”
{nozuna nzimagefromgallery}080cff07-a50c-11f0-8b63-000c2932240f 5{/nozuna nzimagefromgallery}
De fabriek beslaat bijna 10.000 vierkante meter en biedt werk aan 1.500 Foxconn-medewerkers en 55 HPE-specialisten. De productie draait vrijwel continu, met minimale onderbrekingen, om aan de groeiende vraag te voldoen. Het contrast tussen de Europese locatie en Foxconn’s Aziatische roots is opvallend, zeker gezien het feit dat hier ook componenten voor Apple worden vervaardigd.
{nozuna nzimagefromgallery}080cff07-a50c-11f0-8b63-000c2932240f 6{/nozuna nzimagefromgallery}{nozuna nzimagefromgallery}080cff07-a50c-11f0-8b63-000c2932240f 0{/nozuna nzimagefromgallery}
De serverproductie is grotendeels gestandaardiseerd en deels handmatig. Op basis van klantorders worden behuizingen langs meerdere assemblagestations geleid. De workflow start met de installatie van het moederbord, gevolgd door processor, geheugenmodules en opslagmedia. Voor precisie wordt gebruikgemaakt van plexiglasmallen die de exacte positionering van schroeven faciliteren. Na een eindcontrole worden de servers voorzien van identificatiestickers.
{nozuna nzimagefromgallery}080cff07-a50c-11f0-8b63-000c2932240f 2{/nozuna nzimagefromgallery}{nozuna nzimagefromgallery}080cff07-a50c-11f0-8b63-000c2932240f 3{/nozuna nzimagefromgallery}
Naast servers worden ook volledige racks geassembleerd, volledig afgestemd op klantspecifieke configuraties. Klanten bepalen zelf de bekabelingsstructuur en serverplaatsing. Na assemblage ondergaat elk rack een uitgebreide functionele test in een aparte ruimte, zodat eventuele fouten vóór verzending kunnen worden gecorrigeerd.
{nozuna nzimagefromgallery}080cff07-a50c-11f0-8b63-000c2932240f 7{/nozuna nzimagefromgallery}
HPE en Foxconn voorzien een aanhoudende groei in servervraag en plannen daarom een substantiële uitbreiding van de Gigafactory. Volgens Armstrong zal binnen vijf jaar het merendeel van de systemen watergekoeld zijn, mede door de toenemende energiebehoefte van AI-workloads. Dit vereist een fundamentele herziening van het systeemontwerp en productieproces.
Een leuk weetje: Kutná Hora staat bekend om het Sedlec Ossuarium, een bottenkapel
- Details
- Geschrieben von: Frank Everaardt
- Kategorie: Artikelen - Servers
Cloudhoster Exoscale, een dochteronderneming van het Oostenrijkse A1 Digital, werkt met het eveneens Oostenrijkse bedrijf Diggers aan een efficiënter datacenter. Het concept dat ze hebben ontwikkeld, wordt al enkele maanden getest. Het doel is niet alleen om de hardware efficiënt te koelen door middel van waterkoeling, maar ook om gebruik te maken van restwarmte. We bezochten een A1-datacenter in Wenen, waar Exoscale zijn eigen servers heeft staan. Samen met Diggers is er een testopstelling operationeel, die we van dichtbij konden bekijken.Het toenemende stroomverbruik van datacenters wereldwijd betekent dat hun efficiëntie steeds meer onder de aandacht komt. De AI-trend heeft dit versterkt, maar zelfs zonder die hausse zou duidelijk moeten zijn dat de zoektocht naar manieren en middelen om datacenters efficiënter te laten werken, onvermijdelijk is. Er zijn nu al eisen voor de exploitatie van een datacenter, en in Europa zullen de komende jaren steeds meer nieuwe eisen aan nieuwbouw worden gesteld.
{nozuna nzimagefromgallery}be19006e-5e44-11f0-8b63-000c2932240f 0{/nozuna nzimagefromgallery}Tegelijkertijd is er een trend voor Europese gebruikers van dergelijke cloud-instances of datacenters om onafhankelijk te worden van de Amerikaansemarkt en een mogelijke uitstroom van gegevens naar de VS te voorkomen. Een Europese native cloud en digitale soevereiniteit zijn hier de sleutelwoorden, hoewel de vraag hoe soeverein men uiteindelijk kan zijn, gesteld moet worden over de complete software- en hardwarestack voor het exploiteren van een datacenter.
Exoscale heeft een passend aanbod in zijn programma en heeft co-locatieruimtes met andere datacenteroperators in Duitsland (Frankfurt en München), Zwitserland (Genève en Zürich), Oostenrijk (Wenen), Bulgarije (Sofia) en binnenkort ook in Kroatië (Zagreb). Exoscale is een dochteronderneming van A1 Digital en maakt daarom ook gebruik van de bijbehorende datacenters in Oostenrijk. Het dienstenaanbod van Exoscale omvat de gebruikelijke specificaties en certificeringen in de verschillende toepassingsgebieden voor datacenters van dit type - inclusief voor automotive en medische toepassingen.
Tegelijkertijd is er een trend voor Europese gebruikers van dergelijke cloud-instances of datacenters om onafhankelijk te worden van de Amerikaansemarkt en een mogelijke uitstroom van gegevens naar de VS te voorkomen. Een Europese native cloud en digitale soevereiniteit zijn hier de sleutelwoorden, hoewel de vraag hoe soeverein men uiteindelijk kan zijn, gesteld moet worden over de complete software- en hardwarestack voor het exploiteren van een datacenter.
Exoscale heeft een passend aanbod in zijn programma en heeft co-locatieruimtes met andere datacenteroperators in Duitsland (Frankfurt en München), Zwitserland (Genève en Zürich), Oostenrijk (Wenen), Bulgarije (Sofia) en binnenkort ook in Kroatië (Zagreb). Exoscale is een dochteronderneming van A1 Digital en maakt daarom ook gebruik van de bijbehorende datacenters in Oostenrijk. Het dienstenaanbod van Exoscale omvat de gebruikelijke specificaties en certificeringen in de verschillende toepassingsgebieden voor datacenters van dit type - inclusief voor automotive en medische toepassingen.
{nozuna nzimagefromgallery}be19006e-5e44-11f0-8b63-000c2932240f 1{/nozuna nzimagefromgallery}De vloeistofgekoelde servers van Diggers zijn hermetisch afgesloten en geïsoleerde dozen waarin de hardware wordt gebruikt. Componenten met veel afvalwarmte, zoals de processors en accelerators, zijn uitgerust met een speciaal ontworpen waterkoeler. De afvalwarmte van andere componenten, zoals het geheugen, de netwerkcomponenten, de voeding en de massaopslag, blijft in de box en wordt via warmtewisselaars aan de achterkant overgedragen aan het vloeistofcircuit. Dit betekent dat alle afvalwarmte van de server wordt gebruikt.
In het geval van gebruik in het A1 Vienna-2 datacenter, gebruiken Exoscale en Diggers het hier geleverde koelwater met een aanvoertemperatuur van ongeveer 16 tot 17 °C. Een waterpomp voorziet meerdere racks tegelijk van water. Een waterpomp voorziet meerdere racks tegelijk en pompt (of zuigt, daar komen we nog op) ongeveer 8 liter per minuut door de leidingen. De warmtewisselaars maken ook deel uit van het watercircuit. Dit betekent dat alle afvalwarmte van het systeem in het koelwater terechtkomt. De ruimte waarin Exoscale de Diggers-servers gebruikt, heeft helemaal geen koeling. Warme en koude gangen, zoals gebruikelijk in een datacenter, zijn niet nodig.
De lage temperatuur van ongeveer 16 °C is niet essentieel voor de werking van de serverboxen. A1 moet nog evalueren of het ook mogelijk is om de retourstroom van de koude gangpaden, die iets warmer is, te gebruiken. A1 wil echter voorkomen dat de regeling van het circuit voor het hele datacenter wordt beïnvloed. De Diggers-systemen zouden ook zonder problemen water van 40 °C kunnen gebruiken - met navenant hogere hardwaretemperaturen.
{nozuna nzimagefromgallery}be19006e-5e44-11f0-8b63-000c2932240f 2{/nozuna nzimagefromgallery}De servers zijn niet uitgevoerd in een een klassiek 2U-, 4U- of 8U-formaat. In plaats daarvan installeert Diggers de afzonderlijke servers op trays die een complete server bevatten. Deze trays kunnen voor onderhoudsdoeleinden worden uitgetrokken. Een snelsluiting aan de achterkant verbindt het betreffende koelcircuit met de rest van het koelsysteem van het rack. Diggers probeert individuele slangen zoveel mogelijk te vermijden. Daarom verdeelt een soort backplate het koelwater naar de individuele trays. De trays zelf hebben een verdeler die het water vervolgens naar de individuele koelers stuurt.
{nozuna nzimagefromgallery}be19006e-5e44-11f0-8b63-000c2932240f 3{/nozuna nzimagefromgallery}Diggers produceert de koelers en andere onderdelen van het rack allemaal zelf. Met één gpu-koeler kunnen twee gpu’s worden gekoeld. De koeler zit tussen twee pcb’s, in een soort sandwich. De koeler is gemaakt van aluminium en wordt met behulp van een cnc-freesmachine uit twee delen vervaardigd.
Volgens Diggers heeft de binnenstructuur van de koeler een speciale eigenschap. Het bedrijf wilde echter niet onthullen hoe de kanalen binnenin precies zijn gemaakt. Ze zijn niet gefreesd of geschraapt, of anderszins geproduceerd zoals andere koelers.
Aangenomen kan worden dat Diggers probeert om het oppervlak zo groot mogelijk te maken. Hoe dit precies wordt gedaan, blijft voorlopig geheim.De waterkoeler is niet met slangen verbonden met de koelwaterverdeler voor een tray, maar rechtstreeks met snelkoppelingen. Volgens Diggers zijn alle koppelingen en verbindingen een bron van fouten die zoveel mogelijk moet worden vermeden. In zijn huidige vorm kan de waterkoeler 1.000 W dissiperen - tweemaal 500 W per kant. De kaarten worden via een riserkaart op het systeem aangesloten.
Twee Intel Gold 6246R0’s (Cascade Lake) met elk zestien kernen, 256 GB ram, en zes NVIDIA A5000- of GeForce RTX 3080 Ti-kaarten worden in de servers van Diggers gebruikt. Met een stroomverbruik van 250 tot 350 W komen deze kaarten niet in de buurt van de maximaal mogelijke 1.000 W. Er passen vier servers in één serverkast; dat telt dus op tot in totaal 24 gpu’s per kast.
De waterpomp duwt het water niet in het circuit, maar zuigt het er doorheen. In het geval van een lek zou er geen water mogen ontsnappen, maar wordt er lucht in het circuit gezogen, wat op zijn beurt kan worden gedetecteerd.
{nozuna nzimagefromgallery}be19006e-5e44-11f0-8b63-000c2932240f 7{/nozuna nzimagefromgallery}Het project bevindt zich momenteel nog in een ‘proof of concept’-fase. Er is echter al een eerste klant - Streamdiver - die zijn diensten op een dergelijke server uitvoert.
Voor de volgende versie zijn nog meer veranderingen aan de serverboxen gepland. Het is bijvoorbeeld de bedoeling om de slangen voor het koellichaam van de cpu weg te laten en in plaats daarvan vaste leidingen te gebruiken. Er zullen waarschijnlijk ook enkele componenten worden gewijzigd, zoals de voedingsunits, en de hardware zal zeker moderner moeten worden om de efficiëntie verder te verbeteren. Het is ook de bedoeling om het systeem in het klassieke 19-inchformaat aan te bieden, zodat het in bestaande kasten kan worden geïnstalleerd.
Met waterkoeling en de voorwaarde dat de restwarmte wordt gebruikt en niet gewoon in het milieu terechtkomt, wordt het benodigde stroomverbruik van een dergelijke server met 50 procent verminderd. Dit geldt echter ook voor watergekoelde servers die hun afvalwarmte benutten. Een grote uitdaging voor datacenters is ervoor te zorgen dat de restwarmte verstandig wordt hergebruikt. In steden is aansluiting op het lokale stadsverwarmingsnetwerk mogelijk, terwijl bij andere datacenters wordt gekeken naar het verwarmen van kassen. Datacenters kunnen natuurlijk gemakkelijk in hun eigen verwarmingsbehoefte voorzien, en nooddieselgeneratoren kunnen in geval van tekort ook bijspringen. Een datacenter heeft zelf echter niet veel warmte nodig, en tot nu toe wordt restwarmte meestal afgevoerd naar de buitenlucht en wordt hij dus niet hergebruikt.
A1 Digital en Exoscale willen dat anders aanpakken. Want klanten kijken nu naar de CO2-impact van hun toepassingen in het datacenter. Exoscale wil daarom in de toekomst de juiste monitoring aanbieden, die zowel de gebruikte hardware en de aankoop ervan, als het directe stroomverbruik en het mogelijke gebruik van restwarmte omvat.
{nozuna nzimagefromgallery}be19006e-5e44-11f0-8b63-000c2932240f 5{/nozuna nzimagefromgallery}Tot 98% van de restwarmte zou gebruikt moeten kunnen worden. Uit een serverrack met 80 kW kan theoretisch ongeveer 78,5 kW terugvloeien - bijvoorbeeld naar een stadsverwarmingssysteem of, in het geval van randtoepassingen, rechtstreeks naar de klant. De serverkasten moeten ook IP67-gecertificeerd zijn, zodat vocht en stof geen probleem vormen. Diggers is een onafhankelijke leverancier van de serverkast, maar heeft in A1 Digital en Exoscale partners gevonden die al actief zijn op het gebied van datacenters en gerelateerde zaken. Theoretisch zouden serverfabrikanten of andere datacenterexploitanten dus gebruik kunnen maken van de hardware van Diggers.
Uit onze gesprekken met A1, en ook uit onze eigen ervaring, is duidelijk geworden dat met name grote datacenters zich meestal niet op de plaats bevinden waar restwarmte kan worden benut. Integendeel, ze bevinden zich meestal op afgelegen plaatsen. De levering van elektriciteit en een snelle en redundante glasvezelverbinding zijn de belangrijkste voorwaarden voor exploitatie.
Het verstandig gebruik van restwarmte is daarom vooral een logistieke uitdaging die niet echt verenigbaar is met de andere vereisten voor een datacenter. Maar de datacenterindustrie zal met dit probleem moeten omgaan. Zelfs als alle regelgeving voor de AI-boom in de VS overboord wordt gegooid, zal vroeg of laat ook daar aan bepaalde eisen voor het gebruik van restwarmte moeten worden voldaan.
De serverboxen van Diggers zouden één benadering kunnen zijn om de efficiëntie in datacenters te verhogen. Op grotere schaal voldoen volledig watergekoelde servers, zoals die momenteel in gebruik zijn, al aan deze eisen. Als de resterende restwarmte daarbij in het rack wordt opgevangen door warmtewisselaars, zou het ook mogelijk zijn om hier een groot deel van te gebruiken. Er is momenteel echter een gebrek aan opties voor het verstandig gebruik van restwarmte op datacenterlocaties.
- Details
- Geschrieben von: Frank Everaardt
- Kategorie: Artikelen - Servers
Vandaag werd de Gitex Global-beurs in Dubai afgetrapt. Deze techbeurs is de afgelopen jaren flink gegroeid. Dat is onder andere te zien aan het North Star-startupgedeelte. Hier presenteren vele bedrijven uit tal van windstreken zich, op zoek naar kapitaal en bekendheid zich.
Het zal je niet verbazen dat een groot deel van deze nieuwe bedrijven zich richten op AI-ontwikkelingen. Het blijft grappig om te zien dat velen hetzelfde probleem op proberen op te losen, van het tracken van huisdieren tot het bezorgen van pakjes en maaltijden met een robot. Ook kun je je soms afvragen of de sticker AI wel terecht op een nieuwe vinding is geplakt.
{nozuna nzimagefromgallery}5d7416b1-8977-11ef-9766-000c2932240f 0{/nozuna nzimagefromgallery}Een andere ontwikkeling, die steeds concreter wordt is quantumcomputing. Langzaam maar zeker worden stappen gezet om deze computers niet langer alleen in een laboratoriumomgeving te kunnen toepassen, maar ook binnen bedrijven en andere organisaties. De eigenschappen van een quantumcomputer zijn anders, bepaalde berekeningen zoals het kraken van code kunnen deze apparaten veel sneller dan de binaire computers die we allemaal kennen.
Deze ontwikkeling wordt van belang voor tal van toepassingen waar versleuteling wordt toegepast en dat zijn er heel veel. Veel webverkeer en bestanden worden versleuteld. Als quantumcomputers makkelijker beschikbaar worden, zijn de huidige versleutelingsmethoden waardeloos.
Op North Star troffen we ID Quantique uit Korea. Dit bedrijf maakt een hele kleine quantumgetallengenerator, die kan helpen om veiligere versleutelingen te maken. Dankzij het compacte formaat kan het eenvoudig in bestaande producten worden geïntegreerd.