Advertentie
Er gaat bijna geen dag voorbij in 2024 zonder dat er ergens iets wordt gezegd over kunstmatige intelligentie (AI). Elke pc claimt tegenwoordig AI te bevatten, anders lijken ze niet meer mee te doen. Bijna elke Fortune 500-firma heeft wel iets met AI te maken, en het is zonder twijfel hét buzzword van dit jaar. Echter, er zijn bedrijven die letterlijk geld binnenharken dankzij de AI-hype, terwijl het anderen alleen maar geld lijkt te kosten. Tijdens het Gartner IT Symposium in Gold Coast, Australië, waarschuwde het management consultancybureau bedrijven voor de risico’s van het integreren van AI. De kosten kunnen wel eens duizend keer hoger uitvallen dan gebudgetteerd.
"Geld uitgeven aan generatieve AI is heel makkelijk," zei VP-analist Mary Mesaglio tijdens de keynote, die ze gaf samen met collega Kristian Steenstrup. Net zoals IT-afdelingen zich kunnen vergissen in de kosten van cloud-diensten, kan dit ook gebeuren met het gebruik van generatieve AI. Mesaglio schat dat fouten in budgettering variëren van 500% tot 1000%. Een belangrijke oorzaak is dat bedrijven tijdens AI-experimenten geen rekening houden met de kosten van het cloud-gebruik voor AI. Werknemers kunnen AI bijvoorbeeld gebruiken voor taken die je net zo goed kunt Googlen, of ze experimenteren met lange en complexe queries, wat kan leiden tot hoge kosten—vooral als er per token wordt afgerekend (je betaalt per reactie of output).
Een andere factor die de kosten van AI beïnvloedt, is hoe bedrijven hun data structureren, waar de modellen toegang tot hebben. AI werkt veel efficiënter met ongestructureerde data, maar dit kost ook meer om uit te voeren. Het centraliseren van data en dit laten beheren door een IT-afdeling brengt ook uitdagingen met zich mee. Hoewel AI zeker waarde kan toevoegen—zo zou de gemiddelde werknemer dagelijks 43 minuten kunnen besparen—heeft dat weinig zin als die tijd wordt besteed aan het halen van extra koffie. Daarnaast is de impact van AI niet voor iedereen hetzelfde. Een ervaren callcenter-medewerker haalt er minder voordeel uit dan iemand die net begint. Omgekeerd kan een beginnende advocaat er minder aan hebben dan iemand met vijf jaar ervaring. Bedrijven moeten dus goed overwegen of AI in hun geval daadwerkelijk meerwaarde biedt ten opzichte van de kosten.
Uit een ander Gartner-onderzoek bleek dat bijna 30% van alle generatieve AI-toepassingen tegen 2025 mogelijk zal verdwijnen omdat ze niet voldoende opleveren. Ook bedrijven zoals OpenAI, die generatieve AI aanbieden, doen het financieel niet goed—zo wordt verwacht dat de ChatGPT-provider miljoenenverlies zal lijden. De grote winnaars zijn echter de leveranciers van AI-accelerators, zoals Nvidia. Deze bedrijven hebben hun rendement alleen maar zien stijgen dankzij de toegenomen vraag naar AI-hardware.