Advertentie
Google heeft een rechtszaak aangespannen tegen de Chinese cybercrimegroep Outsider Enterprise. Volgens de techgigant gebruikte de groep het AI-model Gemini om op grote schaal frauduleuze websites en phishingcampagnes op te zetten. Google spreekt van een van de eerste zaken waarbij generatieve AI op industriële schaal wordt ingezet voor online oplichting.
Gemini ingezet voor nepwebsites
Volgens de aanklacht gebruikte Outsider Enterprise Google's AI-platform Gemini om honderden websites te genereren die zich voordeden als bekende bedrijven en overheidsdiensten. Daarbij werden onder meer websites van Google, YouTube, de Amerikaanse postdienst (USPS) en de tolheffingsdienst E-ZPass nagemaakt om slachtoffers te misleiden.
De rechtszaak werd ingediend bij de federale rechtbank in New York. Google vraagt de rechter om een bevel waarmee de infrastructuur van de cybercriminelen kan worden stilgelegd.
Samenwerking met FBI en telecomproviders
Google werkt voor het eerst samen met de FBI en Amerikaanse telecomproviders zoals AT&T, T-Mobile en Verizon om de activiteiten van de groep te verstoren. Volgens het bedrijf laat de omvang van de operatie zien hoe groot de impact van de phishingcampagnes is.
De cybercriminelen zouden via Telegram software, handleidingen en AI-prompts hebben uitgewisseld om phishingberichten en nepwebsites op grote schaal te produceren.
Miljoenen frauduleuze links
Volgens Google ontwikkelde de groep met behulp van Gemini in totaal 131 softwarekits, waarmee eenvoudig duizenden phishingwebsites konden worden gegenereerd.
In slechts twee weken tijd, tijdens de maand mei, zou de organisatie o.a. 2,5 miljoen sms-berichten naar Android-gebruikers hebben verstuurd links hebben verspreid naar ongeveer 9.000 frauduleuze websites en meer dan één miljoen malafide internetadressen hebben ingezet die aan de operatie waren gekoppeld.
Google schat dat honderdduizenden slachtoffers, voornamelijk in de Verenigde Staten, met de campagnes zijn geconfronteerd. De exacte financiële schade is nog onbekend, maar loopt volgens het bedrijf in de miljoenen dollars.
AI maakt phishing overtuigender
Google waarschuwt dat generatieve AI het voor cybercriminelen eenvoudiger maakt om geloofwaardige phishingaanvallen op te zetten. Dankzij AI kunnen websites, e-mails en sms-berichten sneller worden gegenereerd en beter worden afgestemd op potentiële slachtoffers.
Ook de FBI ziet die ontwikkeling. Volgens de Amerikaanse opsporingsdienst wordt AI steeds vaker ingezet om fraude moeilijker herkenbaar te maken.
Uit cijfers van de FBI blijkt dat Amerikanen vorig jaar bijna 21 miljard US dollar verloren door cyberfraude. Ongeveer 893 miljoen dollar daarvan hield direct verband met AI-ondersteunde oplichting.
AI wordt nieuw wapen voor cybercriminelen
De zaak onderstreept een bredere trend waarbij generatieve AI niet alleen wordt ingezet voor productiviteit, maar ook steeds vaker wordt misbruikt door cybercriminelen. Grote AI-aanbieders, waaronder Google, OpenAI en Microsoft, investeren daarom steeds meer in detectiesystemen en maatregelen om misbruik van hun modellen tegen te gaan.
Met de rechtszaak probeert Google niet alleen deze specifieke cyberbende te stoppen, maar ook een juridisch precedent te scheppen voor toekomstige gevallen waarin AI-platformen worden ingezet voor grootschalige fraude.