Processors

Intel bespreekt architectuur van Panther Lake-processors in detail - NPU 5 richt zich op efficiëntie

Met een rekenkracht van 48 tops is de NPU 4 in Lunar Lake tot nu toe de enige Intel-chip die voldoet aan de minimale vereisten voor Microsoft's Copilot+. Hoe doorslaggevend dit uiteindelijk voor de eindklant is, is zeker een andere zaak, maar het zal waarschijnlijk belangrijk zijn voor Intel om die merknaam op steeds meer processors te kunnen plakken.

AMD's Ryzen AI 300-serie en de Qualcomm Snapdragon X Elite overwinnen deze hindernis ook met respectievelijk 55 en 45 tops. De Snapdragon X2 Elite Extreme van Qualcomm zou het komende jaar zelfs 80 tops moeten kunnen halen via de npu.

De NPU 5 in Panther Lake biedt met 50 tops slechts iets meer rekenkracht, maar volgens Intel is dat niet het doorslaggevende punt. Het doel van de NPU 5 was om ontworpen te zijn voor de huidige AI workloads en om een grotere efficiëntie te bereiken.

Dit wordt bereikt door twee NCE's (Neural Compute Engines), elk met 2.048 MAC-arrays van NPU 4, samen te voegen tot één NCE in Panther Lake. Hierdoor wordt de grootte van de MAC-array verdubbeld, hoewel deze in totaal 12.288 MAC's blijft. De consolidatie betekent dat blokken met vaste functies, zoals de SHAVE DSP's en andere in de inferentie pijplijn, niet langer dubbel worden gebruikt. Net als bij de Xe3-gpu is ook hier het doel om efficiënter te worden in de verwerking.

De MAC-array van de NPU 5 kan INT8/FP8 uitvoeren in een matrix van 16x16x16 en dus 4.096 MAC-berekeningen per klokcyclus. Bij de NPU 4 was dit precies de helft van dat aantal, namelijk 2.048 (16x16x8). Het volgende geldt ook voor FP8-gegevens: De Mac-array bereikt 2.028 MAC-berekeningen per klokcyclus met 16x16x8, terwijl het met de NPU 4 1.024 (16x16x4) was. Aangezien het totale aantal MAC's echter identiek is, zijn dit ook de cijfers voor de tops.

Wat Intel heeft bereikt met de NPU 5 voor Panther Lake is dat 40% van het chipoppervlak is bespaard voor dezelfde rekenkracht. Daarnaast verhoogt het native gebruik van FP8 als dataformaat, dat door de NPU 5 wordt ondersteund, de prestaties/ratio met meer dan 50%. De npu in Panther Lake wordt dus efficiënter en draagt zijn steentje bij aan het totale rekenbudget voor dergelijke werklasten.