Nieuws

Servers

QNAP QAI-h1290FX: nieuwe edge AI-opslagserver voor lokale LLM's en generatieve AI

Portret van de auteur


QNAP QAI-h1290FX: nieuwe edge AI-opslagserver voor lokale LLM's en generatieve AI
0

Advertentie

QNAP heeft de QAI-h1290FX aangekondigd, een nieuwe edge AI-opslagserver die organisaties in staat moet stellen om AI-workloads lokaal uit te voeren zonder afhankelijk te zijn van cloudplatformen. Het systeem combineert krachtige serverhardware, all-flash opslag en ondersteuning voor Nvidia RTX PRO Blackwell-GPU's in één platform voor toepassingen zoals LLM-inferentie, Retrieval-Augmented Generation (RAG), generatieve AI en virtualisatie.

De QAI-h1290FX is uitgerust met een AMD EPYC 7302P-processor met 16 cores en 32 threads, gecombineerd met 128 GB ECC-geheugen dat uitbreidbaar is tot 1 TB. Voor opslag beschikt het systeem over twaalf U.2 NVMe- of SATA-SSD-bays, waarmee een volledig flashgebaseerde infrastructuur kan worden opgebouwd voor AI- en dataverwerkingsworkloads met lage latentie.

Een belangrijk onderdeel van het platform is de ondersteuning voor Nvidia RTX PRO Blackwell-GPU's, waaronder configuraties met de RTX PRO 6000 Blackwell Max-Q. Dankzij ondersteuning voor CUDA, TensorRT en Transformer Engine kan de server worden ingezet voor lokale AI-inferentie, beeldgeneratie en deep-learningtoepassingen zonder dat hiervoor een aparte GPU-workstation nodig is.

QNAP positioneert de QAI-h1290FX nadrukkelijk als oplossing voor organisaties die gevoelige data niet naar externe cloudomgevingen willen sturen. Het systeem ondersteunt daarom lokale implementaties van private LLM's, AI-chatbots en RAG-gebaseerde zoekoplossingen, waarbij alle data binnen de eigen infrastructuur blijft.

Het platform draait op QuTS hero, QNAP's op ZFS gebaseerde besturingssysteem. Daarmee biedt de server functies zoals datadeduplicatie, snapshots, zelfherstellende opslag en uitgebreide databescherming. Daarnaast ondersteunt het systeem GPU-toegang binnen containers via Container Station en GPU-passthrough naar virtuele machines via Virtualization Station.

Om de implementatie van AI-workloads te versnellen levert QNAP diverse AI-tools standaard mee. Gebruikers kunnen direct aan de slag met onder meer AnythingLLM, OpenWebUI en Ollama. Daarnaast werkt het bedrijf aan integratie van toepassingen zoals Stable Diffusion, ComfyUI, n8n en vLLM om het platform breder inzetbaar te maken voor generatieve AI en workflowautomatisering.

Op netwerkgebied beschikt de QAI-h1290FX over twee 25GbE SFP28-poorten en twee 2,5GbE-aansluitingen. Voor uitbreiding zijn drie PCIe 4.0 x16-slots en één PCIe 4.0 x8-slot aanwezig, waardoor extra GPU's, snellere netwerkkaarten of andere uitbreidingskaarten kunnen worden toegevoegd.

Bronnen en meer links REACTIES (0)