Processors

Jalapeño: OpenAI toont zijn eerste eigen AI-chip

Hoewel er al lang geen twijfel meer bestond dat OpenAI aan een eigen AI-chip werkte, ging het maandenlang louter om geruchten. Nu is de chip, die de naam Jalapeño heeft gekregen, officieel gepresenteerd. De ontwikkeling zou volledig in eigen beheer hebben plaatsgevonden. Voor de backend, dat wil zeggen de overgang van het ontwerp naar de productie, heeft de AI-gigant de hulp van Broadcom ingeroepen. Dat is ook het geval bij Google met zijn TPU’s en Tensordyne met de TDN Napier.

Jalapeño zou zijn ontworpen om LLM-workloads zoals ChatGPT, Codex, hun API en toekomstige AI-agenten te ondersteunen. Dit omvat waarschijnlijk ook de inferentie van de betreffende modellen en niet alleen de training. De chip zelf is op de gepubliceerde foto linksonder achter de wafer te zien. Naar alle waarschijnlijkheid bestaat de package uit een compute-chiplet, een i/o-chiplet en drie hbm3e-stacks. OpenAI heeft echter nog geen technische details bekendgemaakt. Zo is het bijvoorbeeld onbekend waar en volgens welk productieproces OpenAI de chips laat vervaardigen.

Voor OpenAI kan de ontwikkeling van een eigen AI-accelerator om verschillende redenen zinvol zijn. De markt voor krachtige AI-hardware wordt momenteel gedomineerd door een klein aantal spelers, wat zowel de beschikbaarheid als de kosten van dergelijke systemen beïnvloedt. Met een eigen chip zou OpenAI de hardware specifiek kunnen afstemmen op de eisen van zijn modellen en software, waardoor de efficiëntie bij het trainen en beheren van grote taalmodellen mogelijk zou kunnen worden verhoogd. Tegelijkertijd zou het bedrijf minder afhankelijk worden van externe leveranciers en hun productcycli.

Bovendien biedt een eigen AI-chip de mogelijkheid om op lange termijn de beheerderskosten te verlagen en de controle over de gehele keten – van de hardware tot de toepassingen – uit te breiden. Deze aanpak wordt al gevolgd door verschillende grote technologieconcerns, die in toenemende mate gespecialiseerde accelerators voor AI-toepassingen ontwikkelen. Voor OpenAI zou een eigen chip daarom niet alleen een technologische, maar ook een strategische stap kunnen zijn om beter in te spelen op de stijgende vraag naar rekenkracht en het eigen concurrentievermogen op de lange termijn te waarborgen.