Advertentie
Microsoft voert een nieuwe functie in binnen Microsoft Purview waarmee IT-beheerders potentieel risicovolle AI-interacties van werknemers kunnen inkijken in platte tekst. Ook antwoorden van AI-diensten worden zichtbaar voor bevoegde medewerkers, zelfs wanneer gebruikers gepseudonimiseerd zijn.
Nieuwe functie binnen Purview Insider Risk Management
Microsoft Purview is een platform voor databeveiliging en compliance dat vooral gebruikt wordt in bedrijfsomgevingen. Binnen het onderdeel Insider Risk Management krijgt het platform nu extra mogelijkheden om AI-gebruik binnen organisaties te monitoren.
Volgens een update in het Microsoft Message Center kunnen geautoriseerde beveiligingsmedewerkers voortaan prompts bekijken die werknemers naar AI-diensten sturen wanneer die als risicovol worden gemarkeerd. Ook de antwoorden van de AI worden zichtbaar gemaakt.
De inhoud verschijnt in leesbare tekst, zelfs als de gebruiker achter de interactie gepseudonimiseerd is. Microsoft stelt dat die aanpak een evenwicht moet bieden tussen privacy van werknemers en bescherming van bedrijfsgegevens.
Mogelijkheid om gebruikers te deanonymiseren
Wanneer een beveiligingsmedewerker vermoedt dat een AI-interactie bedrijfsregels schendt, gevoelige data lekt of complianceproblemen veroorzaakt, kan de betrokken gebruiker alsnog geïdentificeerd worden. Daarvoor zijn wel specifieke toegangsrechten vereist.
Microsoft benadrukt dat bestaande beveiligingsmaatregelen zoals role-based access controls en auditlogs behouden blijven om misbruik van de functie te voorkomen.
Focus op risico’s rond AI-gebruik
Microsoft legt de laatste maanden steeds meer nadruk op de risico’s van ongecontroleerd AI-gebruik binnen bedrijven. Zo probeert het bedrijf ook het gebruik van zogeheten ‘shadow AI’ via Edge tegen te gaan.
De nieuwe Purview-functie kan gevoelig liggen bij werknemers die AI-tools gebruiken binnen hun organisatie. Toch merkt Microsoft impliciet op dat activiteiten op bedrijfsinfrastructuur in de praktijk nooit volledig privé zijn.
De previewversie van de functie verschijnt later deze maand. Een algemene uitrol staat gepland voor volgende maand.