Advertentie
Onderzoekers hebben een nieuwe methode ontwikkeld om te achterhalen welke specifieke teksten grote taalmodellen tijdens training hebben onthouden. Dat kan helpen bij toekomstige regelgeving en bij het verduidelijken van auteursrechtelijke claims rond AI-training en gegenereerde output.
Onderzoekers van Carnegie Mellon University, Instituto Superior Técnico/INESC-ID en AI-beveiligingsbedrijf Hydrox AI presenteren hun aanpak in een preprint met de titel “RECAP: Reproducing Copyrighted Data from LLMs Training with an Agentic Pipeline”.
De auteurs stellen dat de aanhoudende zorgen over het gebruik van propriëtaire data in trainingssets en de vele lopende copyrightzaken aantonen dat er betere tools nodig zijn om te onderzoeken wat modellen precies hebben opgeslagen.
Commerciële AI-aanbieders maken doorgaans niet bekend welke volledige datasets zij gebruiken. Daardoor blijft het voor klanten, toezichthouders en rechthebbenden lastig om te achterhalen welke bronnen verwerkt zijn in een systeem.
Alignment maakt onderzoek steeds moeilijker
De onderzoekers merken op dat eerdere technieken, zoals prefix probing, minder betrouwbaar zijn geworden. Moderne modellen zijn sterk afgestemd om geen memoriseerde inhoud prijs te geven, wat betekent dat ze zelfs verzoeken weigeren die verwijzen naar materiaal dat in het publieke domein valt. Veiligheidsmaatregelen beschermen zo niet alleen gebruikers, maar beperken ook de mogelijkheid om modellen te controleren. Het gevolg is dat een model vaak beleefd weigert als je vraagt om een passage uit een boek te reproduceren.
“We willen begrijpen hoe memorisatie ontstaat”
Hoofdauteur André V. Duarte vertelt in een e-mail aan The Register dat het onderzoek zich niet uitsluitend richt op auteursrechtelijk beschermd materiaal. Volgens hem is het bredere doel om te begrijpen hoe memorisatie in taalmodellen ontstaat, ongeacht of de onderliggende tekst beschermd of publiek beschikbaar is. Verbatim en bijna-verbatim memorisatie kan verschijnen in allerlei soorten bronnen. Copyrightvoorbeelden maken het probleem echter duidelijker voor het publiek, omdat mensen veel meer bezorgd raken wanneer een model een passage kan reproduceren uit modern werk dat mogelijk zonder toestemming is gebruikt.
Zo ging Anthropic, de maker van AI-model Claude, recent akkoord ging met een schikking van minstens 1,5 miljard dollar in zaken die door auteurs waren aangespannen over ongeoorloofd gebruik van hun werk.
Volgens Duarte zijn betere detectiemethoden essentieel. Ze bieden transparantie, helpen vast te stellen welk materiaal een model heeft geïnternaliseerd en ondersteunen discussies over verantwoordelijk gebruik van trainingsdata.
Hoe RECAP werkt
RECAP is een software-agent die via een iteratief proces probeert specifieke passages uit een LLM te halen. Het systeem bevat een jailbreak-component die prompts herschrijft wanneer een model weigert te antwoorden. De kern is een feedbacklus waarin het model meerdere pogingen doet. Na elke poging beoordeelt een secundaire agent het antwoord en geeft het aanwijzingen over wat ontbreekt of inconsistent is. Daarbij wordt zorgvuldig vermeden dat de agent zelf tekst uit het doelwerk gebruikt, om te voorkomen dat het proces “besmet” raakt.
Duarte legt uit dat taalmodellen niet altijd hun meest volledige antwoord geven bij een eerste poging. RECAP laat het model zichzelf verbeteren door iteratief naar een completere reconstructie toe te werken.
RECAP presteert veel beter dan eerdere methoden
De onderzoekers testten RECAP met een eigen benchmark, EchoTrace. Ze rapporteren een gemiddelde ROUGE-L-score van 0,46, wat 78 procent beter is dan de beste bestaande extractiemethode. Volgens hun paper wist RECAP ongeveer drie duizend passages uit het eerste Harry Potter-boek te reconstrueren met Claude 3.7. De beste eerdere baseline haalde slechts vijfenzeventig passages.