Advertentie
Qualcomm heeft met de AI200 en AI250 zijn nieuwste AI-accelerators onthuld. Ze zijn bedoeld voor datacenters die aan generatieve AI-inferentie doen en een oplossing met een relatief lage totale kostprijs wensen. De fabrikant voorziet om die reden ook oplossing op rackformaat. Het ontwerp is gebaseerd op de Hexagon-npu's die de techgigant gebruikt in zijn socs voor smartphones.
De AI200 beschikt over 768 GB lpddr-geheugen per kaart. Qualcomm treedt niet in detail om wat voor type van het efficiënte geheugen het precies gaat. De AI250 gaat dan weer "een innovatie geheugenarchitectuur op basis van near-memory computing" gebruiken, die een meer dan tien keer hogere geheugenbandbreedte en lager stroomverbruik moet mogelijk maken. Het is niet duidelijk waar deze vergelijking precies op is gebaseerd.
Beide rackoplossingen zijn voorzien van waterkoeling, pcie voor scale-up en ethernet voor scale-out. Een rack wordt gespecificeerd op een stroomverbruik van 160 kW. Qualcomm maakt niet bekend hoeveel accelerators er in een rack zitten, volgens CNBC gaat het om maximaal 72 chips. De AI200 wordt verwacht in 2026, gevolgd door de AI250 in 2027.