Advertentie
Een ontwikkelaar is erin geslaagd een miniatuurversie van een ChatGPT-achtige chatbot te laten draaien op een Super Nintendo uit de jaren negentig. Het AI-model telt slechts 2,2 miljoen parameters en werkt volledig lokaal op de spelconsole. Verwacht alleen geen diepgaande gesprekken: de chatbot beschikt over een beperkte woordenschat en geeft regelmatig volstrekt onzinnige antwoorden.
Het project is het werk van technologiejournalist en retroliefhebber Benj Edwards, die zijn creatie de toepasselijke naam ChatGPT for SNES gaf. De software draait op een originele Super Nintendo Entertainment System (SNES), de 16-bitconsole die Nintendo in 1990 in Japan introduceerde.
Het gaat niet om een officiële versie van ChatGPT. Edwards ontwikkelde een sterk vereenvoudigd taalmodel, waarvoor trainingsgesprekken werden gegenereerd met OpenAI's opensourcemodel gpt-oss-120b. Het resultaat is een chatbot die zelfstandig woorden genereert, zonder dat daarvoor een internetverbinding of externe server nodig is.
AI op een processor uit de jaren negentig
Om het model op de beperkte hardware te laten draaien, maakt Edwards gebruik van de Super FX 2-chip. Deze coprocessor werd oorspronkelijk ontwikkeld om de grafische mogelijkheden van de Super Nintendo uit te breiden en werd onder meer gebruikt in games als Super Mario World 2: Yoshi's Island.
De chip bevat een RISC-processor met een kloksnelheid van ongeveer 21,5MHz. Ter vergelijking: de hoofdprocessor van de SNES draait doorgaans op ongeveer 2,68MHz.
Dat is uiteraard bijzonder weinig rekenkracht voor een taalmodel. Moderne AI-systemen gebruiken krachtige processors en GPU's, terwijl Edwards zijn chatbot heeft teruggebracht tot ongeveer 2,2 miljoen parameters. Dat is miljoenen keren kleiner dan de modellen achter de huidige ChatGPT-dienst.
Het model beschikt bovendien over een woordenschat van slechts ongeveer 8.000 woorden. Desondanks kan het zelfstandig tekst genereren, waarbij de antwoorden woord voor woord op het televisiescherm verschijnen.
AI op console hardware uit de jaren negentig. Skynet is geïnteresseerd!
Wikipedia moet het geheugen een handje helpen
Edwards heeft twee uitvoeringen ontwikkeld. De eerste bestaat uitsluitend uit het taalmodel en neemt ongeveer 4MB in beslag. Alle antwoorden worden daarbij rechtstreeks door de AI gegenereerd, zonder aanvullende informatiebronnen.
De tweede uitvoering is met ongeveer 19MB een stuk groter, maar bevat een kleine kennisbank met informatie uit ongeveer 150.000 artikelen van de Engelstalige Wikipedia in vereenvoudigde taal.
Die kennisbank bestaat voornamelijk uit de openingszinnen van de artikelen. Het AI-model kan zelf beslissen wanneer het informatie moet opzoeken en die vervolgens gebruiken om een antwoord te formuleren. Daarnaast beschikt deze versie over een eenvoudige rekenfunctie.
Het verschil tussen beide versies is volgens The Register aanzienlijk. De uitvoering zonder kennisbank heeft geregeld moeite met eenvoudige vragen en produceert soms antwoorden die weinig met het onderwerp te maken hebben.
Edwards geeft zelf toe dat zijn creatie nauwelijks bruikbaar is als digitale assistent. Het model maakt regelmatig fouten en kan die bovendien met bijzonder veel overtuiging presenteren. Volgens de ontwikkelaar maakt dat juist deel uit van de charme van het experiment.
Zelf uitproberen in de browser
Wie geen Super Nintendo meer op zolder heeft liggen, kan de chatbot gewoon via een browser uitproberen. Edwards heeft daarvoor een versie beschikbaar gemaakt die draait in de SNES-emulator Snes9x. De interface is volledig aangepast aan de spelconsole, inclusief een virtueel toetsenbord, bijpassende geluidseffecten en chiptunemuziek. Met een gewoon computertoetsenbord kunnen gebruikers vragen stellen, waarna de chatbot zijn antwoorden op het scherm typt.
Ook op een echte SNES is het project te gebruiken. Daarvoor is wel een speciale flashcartridge nodig die aangepaste ROM-bestanden kan uitvoeren en ondersteuning biedt voor de Super FX-chip. Geschikte modellen zijn onder meer de FXPak Pro en SD2SNES.
Wie de uitgebreidere versie met Wikipedia-kennisbank wil gebruiken, heeft daarnaast ondersteuning nodig voor MSU-1, een uitbreiding waarmee de SNES grotere hoeveelheden gegevens kan benaderen.
De software en ROM-bestanden zijn gratis beschikbaar via de website van Edwards.
ChatGPT for SNES werd door AI geschreven
Een opmerkelijk detail is dat Edwards de software niet zelf heeft geprogrammeerd. Hij bepaalde het concept, de werking en de interface, maar liet het eigenlijke programmeerwerk uitvoeren door AI-agents. De ontwikkelaar experimenteert al langer met wat hij zelf 'tiny talking machines' noemt: kleine taalmodellen die op sterk beperkte hardware kunnen draaien.
Eerder maakte hij al Séance, een programma voor de oorspronkelijke Nintendo Entertainment System (NES). Daarin kunnen spelers via een nog kleiner taalmodel communiceren met een zogenaamd spook dat in een vervloekte spelcartridge leeft.
Volgens Edwards hebben de AI-agents die aan het SNES-project werkten inmiddels aangegeven dat de grenzen van de hardware zijn bereikt. Zelf is hij daar nog niet van overtuigd en onderzoekt hij manieren om het taalmodel verder te verbeteren.