Advertentie
Alibaba heeft medewerkers opgedragen te stoppen met het gebruik van Claude Code van Anthropic nadat onderzoekers een verborgen detectiemechanisme in de software ontdekten. Volgens Anthropic ging het om een experiment om misbruik van de dienst tegen te gaan. De code is inmiddels verwijderd, maar het incident heeft de spanningen tussen beide bedrijven verder doen oplopen.
Reverse-engineering legt verborgen functie bloot
De kwestie kwam aan het licht nadat een ontwikkelaar op Reddit de broncode van Claude Code onderzocht tijdens het herstellen van een uitgeschakelde remote-controlfunctie. Daarbij werd code gevonden die volgens de onderzoeker al sinds versie 2.1.91 aanwezig was, zonder dat deze in de release-opmerkingen was vermeld.
Uit de analyse bleek dat Claude Code verschillende kenmerken van de omgeving controleerde voordat het programma volledig werd gestart. Daarbij werd onder meer gekeken of een proxyserver werd gebruikt, welke tijdzone op het systeem was ingesteld en of netwerkverkeer via bekende Chinese domeinen of cloudomgevingen liep.
Volgens de onderzoekers bevatte de software een lijst met verwijzingen naar onder meer Alibaba, Baidu, ByteDance en Ant Group.
Detectieresultaat werd verborgen meegestuurd
Opvallend was vooral de manier waarop de software de detectieresultaten zou hebben doorgegeven. Volgens de reverse-engineering werden die niet via een aparte netwerkverbinding verstuurd, maar verborgen in subtiele wijzigingen aan de systeemprompt.
Zo zou Claude Code onder meer een ander datumformaat gebruiken of een visueel vrijwel identiek Unicode-teken toepassen in plaats van een standaard apostrof. Voor gebruikers waren die wijzigingen nauwelijks zichtbaar, maar ze konden wel door Anthropic worden herkend.
Onderzoekers omschrijven die techniek als een vorm van steganografie, waarbij informatie wordt verborgen in ogenschijnlijk onschuldige gegevens.
Anthropic: experiment tegen misbruik
Anthropic bevestigde later dat het mechanisme daadwerkelijk bestond. Volgens Reuters ging het om een experiment dat in maart werd geïntroduceerd.
Volgens het bedrijf was de functie bedoeld om misbruik van Claude Code tegen te gaan, waaronder ongeautoriseerde wederverkoop van de software en pogingen om de modellen via zogenoemde modeldistillatie te kopiëren. Anthropic liet weten dat de code op 1 juli uit Claude Code is verwijderd.
Het bedrijf ontkent dat sprake was van een verborgen achterdeur of spyware.
Alibaba stapt over op Qoder
Ondertussen hebben Chinese media gemeld dat Alibaba medewerkers heeft opgedragen Claude Code niet langer te gebruiken. In plaats daarvan moeten ontwikkelaars overstappen op Qoder, de eigen AI-codeassistent van het bedrijf.
Volgens dezelfde berichten geldt het verbod ook voor andere AI-producten van Anthropic, waaronder Claude Sonnet, Opus en Fable.
Alibaba heeft de maatregel zelf niet publiekelijk toegelicht.
Spanningen tussen beide bedrijven lopen verder op
Het incident komt op een moment waarop de relatie tussen Anthropic en Alibaba al onder druk staat. Vorige maand beschuldigde Anthropic een groep gebruikers ervan op grote schaal misbruik te hebben gemaakt van Claude om AI-modellen te trainen.
Volgens het bedrijf werden daarvoor ongeveer 25.000 accounts gebruikt, goed voor bijna 29 miljoen interacties met Claude. Anthropic stelde dat de activiteit verband hield met pogingen om concurrerende AI-modellen te verbeteren via modeldistillatie.
Alibaba heeft die beschuldigingen ontkend.
Geopolitiek speelt steeds grotere rol
De affaire laat zien hoe de AI-markt steeds sterker wordt beïnvloed door geopolitieke spanningen. Amerikaanse AI-bedrijven proberen hun modellen beter te beschermen tegen ongeoorloofd gebruik, terwijl Chinese technologiebedrijven versneld investeren in eigen alternatieven.
De ontdekking van het detectiemechanisme heeft de discussie over transparantie in AI-software verder aangewakkerd. Hoewel Anthropic de functie inmiddels heeft verwijderd en de werking heeft toegelicht, roept de zaak vragen op over welke controles AI-tools op de achtergrond uitvoeren en in hoeverre gebruikers daarvan op de hoogte worden gebracht.