Advertentie
De hardwarefabrikant Banana Pi heeft de BPI-SM10 geïntroduceerd, een singleboardcomputer met een speciale focus op lokale AI-toepassingen. Het compacte bord is gebaseerd op een RISC-V-architectuur en combineert klassieke rekenkernen met speciale AI-eenheden om inferentietaken direct op het apparaat uit te voeren. Banana Pi heeft zich nog niet uitgesproken over de prijs.
Centraal staat een soc met acht 64-bit X100-kernen voor algemene berekeningen en acht extra A100-kernen die speciaal ontworpen zijn voor AI-workloads. Volgens de fabrikant bereikt deze architectuur een rekenkracht van 60 tops voor AI-toepassingen. Deze wordt ondersteund door vectorverwerking met een breedte van 1.024 bits en een gedeelde L2-cache van 8 MB voor de cpu-kernen en extra geheugengebieden voor de AI-eenheden. Het systeem volgt de RVA23-specificatie en maakt gebruik van een out-of-order pijplijn met vier execution units.
Het werkgeheugen bestaat uit lpddr5, met maximaal 32 GB en 6.400 MT/s. Naast de maximale configuratie zijn er ook varianten met 8 en 16 GB gepland. Nvme-ssd's kunnen aangesloten worden via twee m.2-interfaces, waardoor het systeem eenvoudig kan worden uitgebreid met snelle massaopslag.
De BPI-SM10 is gericht op het lokaal draaien van grote AI-modellen. Het bord zou modellen met tot wel 30 miljard parameters moeten kunnen verwerken, met een snelheid van meer dan tien tokens per seconde. Tegelijkertijd blijft het energieverbruik met ongeveer 18 tot 35 watt relatief laag, wat het gebruik in edge computing-scenario's ten goede zou moeten komen.
Naast de module bevat de developer kit een referentieversie van een carrier board, dat een breed scala aan i/o-interfaces biedt: vier usb 3.0-poorten, usb-c, displayport en een ethernetpoort met maximaal 10 Gbit/s. Er zijn 40 GPIO-pinnen beschikbaar voor uitbreidingen. Camera-aansluitingen via MIPI CSI en een display-interface via MIPI DSI zijn ook geïntegreerd.
Aan de hardwarekant is het bord ook compatibel met platforms zoals de Nvidia Jetson Orin Nano. De softwareomgeving bestaat uit een compleet toolchainpakket inclusief AI-runtime en is ontworpen om de migratie van bestaande toepassingen zonder grote aanpassingen te ondersteunen. Op het gebied van prestaties scoort het systeem in de single-core test van Geekbench soortgelijk als een Raspberry Pi 4 Model B.