Advertentie
In plaats van een stapel losse servers biedt Helios een architectuur die er één compleet systeem van maakt. Tot nu toe waren servers in een rack onafhankelijk van elkaar. In een Helios-rack worden de servers met elkaar gekoppeld, waardoor het geheel als één server kan worden gezien. Hiermee kunnen tot 72 GPU’s in één omgeving worden gecombineerd. Dat betekent dat toepassingen profiteren van een hoge bandbreedte en weinig vertraging. Door de hardware op slimme wijze te combineren, wordt ook de betrouwbaarheid verhoogd.
Het rack is 44 ORW-hoogte-eenheden hoog en bevat 18 Compute Trays, 6 Switch Trays en 72 GPU’s. Voor de bekabeling zijn er vier cartridges. Het geheel maakt gebruik van een 50VDC-vloeistofgekoelde busbar voor de voeding. De servers en de GPU’s worden eveneens vloeistofgekoeld.
Het netwerk in een Helios-rack is ontworpen om het geheugen van de GPU’s te delen en probleemloos te laten samenwerken. Per GPU is 3,6 TB/s beschikbaar; in totaal is dat 260 TB/s per rack. Het systeem is zo ontworpen dat vrijwel onmerkbaar kan worden overgeschakeld als een GPU een probleem heeft. Als een taak vastloopt, heeft dit geen gevolgen voor andere taken. Alleen de taak met een probleem moet opnieuw worden gestart.
Een Switch Tray maakt gebruik van twee 200G-switch-ASIC’s. Per switch is 21,6 TB/s beschikbaar. De switch wordt beheerd door Ryzen-processors en een BMC. Ook hier wordt gebruikgemaakt van vloeistofkoeling.
Een Compute Tray heeft een SP7 EPYC-processor en vier MI455X-GPU’s aan boord. Voor de verbindingen binnen het netwerk is een DPU ingebouwd. Deze Pensando Salina 400 is meer dan een netwerkinterface en kan allerlei taken uitvoeren, zoals beveiliging en het versnellen van storageverbindingen. Voor verbindingen naar buiten zijn drie 800G-verbindingen beschikbaar op basis van AMD Pensando Vulcano 800.
De nieuwe stappen van AMD betekenen veel voor een datacenter. In een van de slides wordt een voorbeeld gegeven van de vernieuwingen die mogelijk zijn. 82 nieuewe EPYC-servers kunnen een datacenter met 1.000 servers met zes jaar oude Intel Xeon-servers vervangen.
Door gebruik te maken van de hogedichtheidmodellen uit de EPYC-Venice-serie is het mogelijk om tot 49.152 cores in een rack te combineren.