Advertentie
Nu bedrijven AI steeds vaker in eigen huis willen draaien, verschuift de discussie van modellen naar infrastructuur. Volgens CIQ-topman Gregory Kurtzer zit de echte uitdaging niet in een proof-of-concept, maar in het schaalbaar, betaalbaar en controleerbaar naar productie brengen van AI-workloads.
AI begon voor veel organisaties als een experiment aan de rand van de organisatie. Een medewerker probeerde ChatGPT, een team bouwde een prototype met een publieke API, en binnen korte tijd ontstonden de eerste successen. Maar nu AI onderdeel wordt van bedrijfsprocessen, komen er andere vragen op tafel: waar draait het model, wie beheert de data, wat kost inference op schaal en hoe voorkom je dat gevoelige informatie ongemerkt naar buiten lekt?
Dat is precies het terrein waarop CIQ met Fuzzball wil inspelen. Fuzzball wordt door CIQ gepositioneerd als een orchestration-platform voor AI- en HPC-workloads dat organisaties laat werken op infrastructuur die zij zelf controleren. Workflows kunnen volgens CIQ zowel on-premises als in grote cloudomgevingen draaien, waarbij dezelfde workflowdefinitie behouden blijft.
Van snelle test naar productieprobleem
Volgens Gregory Kurtzer, oprichter en CEO van CIQ, is het tegenwoordig relatief eenvoudig om lokaal of in de cloud met AI te experimenteren. Een klein systeem, een cloudinstantie of een compacte GPU-machine volstaat vaak om modellen te testen en eerste resultaten te boeken. De echte complexiteit ontstaat pas wanneer bedrijven AI op schaal willen gebruiken.
“Het moeilijke deel is opschalen naar productie”, stelt Kurtzer. Zodra organisaties grote modellen of veel inferencecapaciteit willen inzetten, draait het niet langer alleen om hardware. De volledige stack wordt belangrijk: besturingssysteem, GPU-drivers, scheduler, opslag, databeweging, netwerk en de manier waarop workloads worden aangestuurd.
Die benadering komt rechtstreeks uit de wereld van high performance computing. Daar is schaalbaarheid al decennia een discipline op zich. Kurtzer ziet dat veel bedrijven AI nog behandelen als een applicatieprobleem, terwijl het in productie steeds vaker een infrastructuurprobleem wordt.
Fuzzball als workflowlaag
Fuzzball probeert die complexiteit te abstraheren met workflows. Een workflow beschrijft wat er moet draaien, welke containers en data nodig zijn en welke resources vereist zijn. Daardoor kan dezelfde workload volgens CIQ worden verplaatst tussen een lokale omgeving, een cluster, meerdere datacenters of een publieke cloud.
CIQ noemt daarbij drie lagen. Fuzzball Substrate vormt de onderste laag waarop compute- en GPU-resources draaien. Fuzzball Orchestrate regelt binnen een cluster de workloads, databeweging en plaatsing. Daarboven zit Fuzzball Federate, waarmee meerdere clusters en omgevingen aan elkaar gekoppeld kunnen worden.
Die opzet moet vooral zorgen voor portabiliteit. Een organisatie kan volgens Kurtzer klein beginnen, bijvoorbeeld met een lokale testomgeving, en dezelfde workflow later opschalen naar bare-metalservers, een groter cluster of cloudcapaciteit. De workflow blijft daarbij het centrale object, niet de onderliggende infrastructuur.
Sovereign AI is ook een kostenverhaal
De opkomst van sovereign AI wordt vaak gekoppeld aan data, wetgeving en controle. Kurtzer voegt daar een harde financiële reden aan toe: tokenkosten. Naarmate AI-gebruik toeneemt, kunnen de kosten van externe AI-diensten sneller stijgen dan organisaties verwachten. In sommige gevallen worden die kosten volgens hem zelfs groter dan personeelskosten voor bepaalde taken.
Daarom kijken bedrijven opnieuw naar eigen infrastructuur. In HPC is on-premises draaien al lang de meest voorspelbare manier om intensieve workloads financieel beheersbaar te houden. Cloud blijft waardevol voor tijdelijke capaciteit, maar structurele productiecapaciteit kan in veel scenario’s goedkoper en beter controleerbaar zijn wanneer die dichter bij de organisatie staat.
Daar komt compliance bij. Ziekenhuizen, banken, aerospacebedrijven, chipfabrikanten en zelfs media- en entertainmentbedrijven hebben vaak te maken met strikte eisen rond data, intellectueel eigendom en geheimhouding. Voor zulke organisaties is het gebruik van publieke AI-diensten niet alleen een kostenpost, maar ook een risico.
Shadow AI als stille datalekmachine
Een ander probleem is shadow AI: medewerkers die op eigen initiatief publieke AI-tools gebruiken met persoonlijke accounts of losse abonnementen. Dat levert twee risico’s op. Ten eerste ontstaat er een versnipperd kostenmodel waarbij veel kleine abonnementen samen een forse rekening vormen. Ten tweede verdwijnt bedrijfsdata uit het zicht van IT en security.
Volgens Kurtzer is vooral dat tweede punt fundamenteel. Een AI-model kan pas goed antwoorden wanneer het voldoende context krijgt. In een zakelijke omgeving betekent dat vaak dat prompts bedrijfsinformatie, code, klantdata of strategische documenten bevatten. Wordt die context naar een externe dienst gestuurd, dan verliest de organisatie controle over wat er precies gedeeld wordt.
Beleid alleen is daarbij niet genoeg. Medewerkers gebruiken AI omdat het helpt. Een intern alternatief moet daarom niet alleen veiliger zijn, maar ook bruikbaar en aantrekkelijk genoeg om shadow AI te vervangen. Dat maakt de kwaliteit van open modellen, de tooling eromheen en de gebruikerservaring cruciaal
Open modellen worden volwassen
Kurtzer verwacht dat open modellen en modellen die organisaties zelf kunnen draaien snel competitiever worden. Namen als Mistral, Qwen, Llama en DeepSeek laten zien dat bedrijven niet langer uitsluitend afhankelijk zijn van gesloten AI-labs. Volgens CIQ verschuift de innovatie bovendien naar de laag rondom het model: agents, harnesses, workflowcatalogi en optimalisaties die het model beter laten presteren in een specifieke taak.
Daarmee ontstaat een ander AI-landschap. Niet één groot model voor alles, maar meerdere modellen voor verschillende taken. Een model voor code, een ander voor documentanalyse, weer een ander voor domeinspecifieke vragen. Kurtzer vergelijkt het met verschillende specialisten binnen een organisatie die samen tot een betere uitkomst komen.
Voor bedrijven betekent dit dat infrastructuur flexibel genoeg moet zijn om verschillende modellen, agents en workflows naast elkaar te draaien. Juist daar wil Fuzzball een rol spelen: niet door één model centraal te stellen, maar door de onderliggende uitvoering reproduceerbaar en verplaatsbaar te maken.
Groene energie en Europese datacenters
Een interessant neveneffect van workloadportabiliteit is dat workloads ook kunnen worden verplaatst op basis van energie, kosten of beschikbaarheid. Kurtzer noemt het voorbeeld van datacenters dicht bij windparken: op dagen met veel wind is er capaciteit, maar bij weinig wind kan die capaciteit terugvallen. Met federatie over meerdere clusters kan een workload dan elders worden geplaatst.
Dat sluit aan bij discussies in Europa, waar grote hyperscale-datacenters niet overal wenselijk of praktisch zijn. In plaats daarvan wordt vaker gesproken over verbonden datacenterclusters en datahighways. Als workloads slim tussen locaties kunnen bewegen, wordt infrastructuur minder afhankelijk van één fysieke locatie.
Daarbij blijven data-eisen bepalend. Niet elke workload mag zomaar naar elke plek. Data-localiteit, datasoevereiniteit, securitybeleid en kosten voor dataverplaatsing bepalen uiteindelijk waar een workload het beste draait. Fuzzball moet volgens CIQ juist die afweging automatiseren en operationaliseren.
Conclusie: AI-productie vraagt om infrastructuurdiscipline
De boodschap van Kurtzer is duidelijk: AI in productie is geen kwestie van simpelweg een model downloaden en een paar GPU’s plaatsen. Wie AI op schaal, veilig en betaalbaar wil draaien, moet de volledige infrastructuurstack begrijpen en beheren. Dat geldt voor compute, storage en networking, maar ook voor workflows, compliance en kostenbeheersing.
Fuzzball positioneert zich precies op dat snijvlak. Het platform belooft AI- en HPC-workloads reproduceerbaar, portabel en bestuurbaar te maken over on-premises infrastructuur, clouds en federatieve omgevingen heen. Of dat in de praktijk breed genoeg en eenvoudig genoeg werkt, moet per organisatie blijken. Maar de richting is helder: na de fase van AI-experimenten komt de fase waarin infrastructuur, soevereiniteit en operationele discipline het verschil maken.
