Advertentie
Cloudflare heeft de Identity-Aware AI Gateway aangekondigd, een uitbreiding van zijn AI Gateway waarmee IT- en securityteams veel nauwkeuriger kunnen zien hoe medewerkers en autonome AI-agents binnen organisaties gebruikmaken van AI-diensten. Door AI Gateway te koppelen aan Cloudflare Access wordt ieder AI-verzoek gekoppeld aan een geverifieerde identiteit. Organisaties kunnen daardoor niet alleen zien welk model wordt gebruikt en wat er wordt verstuurd, maar ook welke medewerker of agent verantwoordelijk is voor het verkeer. De Identity-Aware AI Gateway is momenteel beschikbaar als open bèta.
De snelle adoptie van generatieve AI brengt volgens Cloudflare twee belangrijke problemen met zich mee: onverwacht oplopende kosten en nieuwe beveiligingsrisico's. Medewerkers en geautomatiseerde agents sturen steeds meer verzoeken naar AI-modellen. Hoewel individuele verzoeken goedkoper worden, kan het totale verbruik daardoor sterk toenemen zonder dat een organisatie direct ziet waar die kosten vandaan komen.
Tegelijkertijd bestaat het risico dat medewerkers vertrouwelijke informatie naar externe AI-diensten sturen. Denk daarbij aan persoonsgegevens, wachtwoorden, bedrijfsdocumenten of andere gevoelige informatie. Traditionele API-sleutels bieden daarbij weinig inzicht in wie precies verantwoordelijk is voor een verzoek. De Identity-Aware AI Gateway moet dat veranderen door de identiteit van de gebruiker of agent onderdeel te maken van de AI-verkeersstroom. Daardoor kunnen bestaande toegangs- en beveiligingsregels ook op AI-verzoeken worden toegepast.
Een belangrijk onderdeel van de uitbreiding is AI Spend. Deze functie analyseert het AI-gebruik van individuele medewerkers en geautomatiseerde systemen en bouwt daar een gedragsprofiel voor op. Wanneer een gebruiker of agent plotseling aanzienlijk meer AI-verzoeken verstuurt dan normaal, kan de IT-afdeling daarvoor een waarschuwing krijgen. Dat kan bijvoorbeeld wijzen op een plotselinge stijging van het gebruik, maar ook op ongebruikelijk gedrag van een geautomatiseerd systeem. Cloudflare wil organisaties daarmee helpen om problemen eerder te signaleren in plaats van pas achteraf naar de factuur of logbestanden te kijken. User Insights, dat hiervoor het gedrag van personen en agents analyseert, is inmiddels algemeen beschikbaar voor AI Gateway-klanten zonder aanvullende kosten.
AI Spend moet bovendien inzichtelijk maken of organisaties onnodig dure AI-modellen inzetten. Een medewerker kan bijvoorbeeld een krachtig model gebruiken voor een relatief eenvoudige taak waarvoor een kleiner en goedkoper model voldoende zou zijn. Door het gebruik per medewerker, team of geautomatiseerd systeem inzichtelijk te maken, kunnen bedrijven volgens Cloudflare gerichter bepalen waar kosten kunnen worden bespaard. Daarbij kunnen ook uitgavenlimieten en rate limiting worden toegepast om excessief gebruik te voorkomen.
De AI Gateway fungeert als een centraal tussenstation voor AI-verkeer. Daardoor kunnen organisaties verschillende beveiligingsmaatregelen op dezelfde plek toepassen. Zo kan verkeer worden gelogd, kunnen verzoeken worden gecachet om dubbele aanvragen te voorkomen en kunnen filters gevoelige informatie uit prompts verwijderen voordat deze naar een externe AI-aanbieder wordt doorgestuurd. Cloudflare positioneert de oplossing daarmee niet alleen als een kostenbeheertool, maar ook als een beveiligingslaag voor zogenoemde shadow AI: AI-gebruik dat binnen een organisatie ontstaat zonder dat de IT-afdeling daar volledig zicht op heeft. De aanpak sluit aan bij Cloudflares bredere AI-securitystrategie, waarin AI Gateway onder meer wordt gebruikt voor het monitoren van AI-verkeer, kostenbeheersing, caching en het beschermen van gegevens.
Een belangrijk onderdeel voor zakelijke gebruikers is dat organisaties volgens Cloudflare geen afzonderlijk authenticatiesysteem voor iedere AI-dienst hoeven te bouwen. Door Cloudflare Access vóór AI Gateway te plaatsen, kunnen bestaande Identity Provider- en Zero Trust Network Access (ZTNA)-beleid worden toegepast op AI-verzoeken. Daarbij kan niet alleen de identiteit van de gebruiker worden gecontroleerd, maar ook de status van het apparaat voordat een verzoek naar een AI-model wordt doorgestuurd. De geverifieerde identiteit wordt vervolgens in de logbestanden vastgelegd. Cloudflare stelt dat deze aanpak bedrijven meer vrijheid moet geven om AI-tools te gebruiken zonder dat securityteams iedere nieuwe toepassing afzonderlijk hoeven te blokkeren of controleren.
