Advertentie
Open platform + open toegang tot AI = vrij spel voor kwaadwillenden
Wikipedia bevindt zich momenteel in een crisis op het gebied van bewerkingen van hun artikels, dankzij AI. Mensen overspoelen de site met nonsens informatie, bedacht door AI-taalmodellen zoals ChatGPT.
Helaas, onverwacht is het niet.
Wikipedia heeft een nieuw initiatief gelanceerd, genaamd WikiProject AI Cleanup. Dit is een werkgroep van vrijwilligers die momenteel door Wikipedia-artikelen heen ploegen om foutieve informatie, die lijkt te zijn geplaatst door mensen met behulp van generatieve AI, te bewerken of te verwijderen.
Ilyas Lebleu, een van de oprichters van het opruimteam, vertelde aan 404 Media dat de crisis begon toen Wikipedia-redacteuren en gebruikers passages begonnen te zien die onmiskenbaar door een chatbot waren geschreven. Het team bevestigde deze theorie door enkele passages opnieuw te creëren met ChatGPT.
"Een paar van ons merkten een toenemend aantal onnatuurlijke teksten op die duidelijk leken zijn te gemaakt door AI, en we zijn erin geslaagd om vergelijkbare 'stijlen' te repliceren met ChatGPT," zei Lebleu. "Het ontdekken van enkele veelvoorkomende AI-uitdrukkingen stelde ons in staat om snel enkele van de meest opvallende voorbeelden van AI artikelen te identificeren. Vervolgens wilden we die formeel wilden vastleggen in een georganiseerd project om onze bevindingen en technieken te verzamelen."
Een voorbeeld is een artikel over een Ottomaanse vesting, gebouwd in de 15e eeuw, genaamd "Amberlisihar." Het 2.000 woorden tellende artikel beschrijft de locatie en constructie van dit bouwwerk. Helaas bestaat Amberlisihar niet, en alle informatie erover is volledig verzonnen, doorspekt met genoeg feitelijke details om het geloofwaardig te laten lijken. Het team identificeerde het artikel als een hoax en verwijderde het artikel.
Wat betreft de redenen achter dit fenomeen, denkt het opruimteam dat er drie primaire motivaties zijn."De voornaamste redenen die redacteuren ertoe brengen om AI-gegenereerde content toe te voegen: zelfpromotie, het opzettelijk verspreiden van hoaxes, en het misleid worden door te denken dat de gegenereerde content accuraat en constructief is," aldus Lebleu.
Er zijn echter twee grote factoren die bijdragen aan deze chaos. Ten eerste is er een inherent probleem met het model van Wikipedia – iedereen kan redacteur worden op het platform. Veel universiteiten accepteren geen papers van studenten die Wikipedia als bron gebruiken, om precies deze reden.En het tweede is dat het internet nu eenmaal graag alles bederft. We hebben dit keer op keer gezien, vooral met AI-toepassingen. Denk maar aan de Twitter-bot van Microsoft die binnen 24 uur offline werd gehaald toen hij begon met het posten van vulgaire en racistische tweets.
Modernere AI-toepassingen zijn net zo vatbaar voor misbruik, zoals we hebben gezien met deepfakes, belachelijke AI-gegenereerde boeken op Kindle, en andere fratsen, zoals plagiaat.
Wanneer het publiek vrijwel onbeperkte toegang krijgt tot iets, kun je verwachten dat een klein percentage gebruikers het zal misbruiken. Als we het over 100 mensen hebben, is het misschien geen groot probleem, maar wanneer het om miljoenen gaat, krijg je onvermijdelijk problemen. Soms is het voor illegaal gewin. Andere keren is het gewoon omdat het kan. En dat is precies wat er momenteel met Wikipedia aan de hand is.