Thales heeft zijn samenwerking met Google Cloud uitgebreid om de beveiliging van op kunstmatige intelligentie (AI) gebaseerde werkstromen met agenten te versterken. De integratie van Thales AI Security Fabric met Google Cloud Gemini Enterprise biedt meer inzicht en controle over communicatie tussen gebruikers, AI-agenten, modellen, bedrijfsgegevens en tools, met real-time beveiligingsbeleid dat wordt toegepast.
De kern van beveiliging voor AI-agentgestuurde systemen in 20 seconden
- Thales integreert haar AI Security Fabric-platform met Google Cloud Gemini Enterprise.
- De oplossing is gericht op het beheersen van welke gegevens door agenten kunnen worden geraadpleegd, welke informatie wordt gedeeld en welke acties kunnen worden ondernomen.
- Risico’s die worden afgedekt, omvatten instructie-injecties met kwaadaardige commando’s, datalekken en ongeautoriseerde activiteiten.
- De samenwerking is bedoeld om de grootschalige inzet van autonome agenten binnen organisaties te ondersteunen met beveiligingscontroles, observatie en governance.
Deze aanpak antwoordt op een verandering in hoe bedrijven AI inzetten. Traditionele assistenten zijn meestal beperkt tot het beantwoorden van vragen of het genereren van content, terwijl agenten zelfstandig beslissingen kunnen nemen en systemen kunnen activeren. Deze mogelijkheid vergroot de automatiseringsmogelijkheden, maar vereist ook dat de toekenningsrechten, de beschikbare data en de actiemarges per systeem zorgvuldig worden beoordeeld.
Thales plaatst beveiliging centraal tijdens interacties in dit proces. In plaats van zich enkel te richten op het beschermen van één applicatie of model, richt AI Security Fabric zich op het toezicht houden op de onderlinge relaties tussen de verschillende componenten die een geautomatiseerde workflow vormen.
Welke risico’s wil Thales AI Security Fabric elimineren of beperken?
De integratie is ontworpen om organisaties te ondersteunen bij het beheren van specifieke bedreigingen voor agentgestuurde systemen. Thales identificeert diverse risico’s: instructie-injectie met kwaadaardige prompts, blootstelling van gevoelige informatie, onveilige antwoorden en acties die een agent zonder toestemming uitvoert. Ook de complexiteit van communicatie tussen verschillende agenten wordt meegenomen.
Deze issues kunnen ontstaan wanneer een agent toegang krijgt tot bedrijfsgegevens of tools waarmee informatie kan worden gewijzigd of operaties kunnen worden uitgevoerd. Onjuiste permissies kunnen ertoe leiden dat informatie buiten de bedoelde context wordt gebruikt of dat acties worden uitgevoerd die niet conform de bedrijfsrichtlijnen zijn.
Als voorbeeld noemt Thales een verzekeraar die agenten inzet voor het afhandelen van claims. Een agent die meldingen verwerkt, zou kunnen proberen om onrechtmatig persoonlijke gegevens uit externe bronnen te gebruiken om het bedrag van een uitkering te beïnvloeden. Dit soort gedrag brengt privacyrisico’s en nalevingsproblemen met zich mee.
AI Security Fabric streeft ernaar controlemaatregelen te implementeren rond agenten om toegang tot alleen geautoriseerde data te beperken en ongepaste acties in real-time te blokkeren. Het doel is dat systemen legitieme taken kunnen uitvoeren zonder de grenzen te overschrijden die door de organisatie zijn gesteld.
Ook benadrukt Thales het belang van het opsporen van AI-gerelateerde bedreigingen en het monitoren van het gedrag van agenten. De informatie geeft echter geen details over gebruikte detectiemodellen, aangeboden metrics of resultaten uit onafhankelijke testen. Het wordt daarom vooral gepresenteerd als een beschrijving van de geplande capaciteiten, zonder concrete prestatiecijfers te geven ten opzichte van specifieke aanvalsscenario’s.
Inzichtgeving en governance voor het inzetten van agenten binnen de organisatie
De samenwerking met Google Cloud richt zich op verschillende fasen van de levenscyclus van AI-systemen. Volgens Thales maakt AI Security Fabric het mogelijk om risico’s gerelateerd aan AI te ontdekken en te evalueren, gevoelige informatie te beschermen, te helpen voorkomen dat ongeautoriseerde acties worden uitgevoerd, en te controleren of de activiteiten van systemen overeenkomen met de bedrijfsbeleid en gebruikersintentie.
De platformfunctie bevat ook functies voor centraal governance en complianceondersteuning. Deze capaciteiten moeten management en security-teams een breder inzicht geven in hoe agenten worden ingezet en welke grenzen daarbij gelden.
Het verkrijgen van inzicht wordt vooral belangrijk wanneer meerdere agenten met elkaar samenwerken of verschillende tools gebruiken om een taak uit te voeren. In die gevallen kan het controleren van slechts de initiële vraag onvoldoende zijn om alle operaties in kaart te brengen. Thales stelt voor om controles toe te passen op de interacties tussen gebruikers, agenten, modellen en tools.
De details over welke logs worden verzameld, hoe beleidsregels met organisatie-applicaties worden geïntegreerd en welke configuratie-opties voor beheerders beschikbaar komen, ontbreken. Ook is niet gespecificeerd welke technische mechanismen worden ingezet om elke soort actie af te schermen. Deze informatie is essentieel om te bepalen hoe de oplossing past binnen security- en compliance-eisen van verschillende sectoren.
Voor Google Cloud sluit deze samenwerking aan bij de missie om de overgang van experimenten naar volledige implementatie van agenten in bedrijfsprocessen te versnellen. Vineet Bhan, directeur Alliantie voor Security en Identiteit bij Google Cloud, benadrukt dat organisaties beveiliging en governance moeten integreren in de werking van deze systemen, vooral bij toegang tot kritieke gegevens en applicaties.
Eva Rudin, senior vice-president Cybersecurity Products bij Thales, onderstreept dat het inzetten van autonome agenten een beveiligingsaanpak vereist die afgestemd is op de mogelijkheden van deze systemen.
Door de uitbreiding van de samenwerking wordt de bescherming van agenten centraal gesteld in de adoptie van AI door ondernemingen. Het bericht bevat echter geen details over prijzen, beschikbaarheid, licentievoorwaarden of deploymentmodi. Ook worden geen sectoren genoemd waar de integratie reeds operationeel is.
Veelgestelde vragen
Wat is Thales AI Security Fabric?
Een beveiligingsplatform voor AI-systemen dat controle en inzicht biedt over toegangen tot data, communicatie tussen agenten en uitgevoerde acties.
Met welke Google Cloud-dienst wordt het geïntegreerd?
De samenwerking omvat integratie met Google Cloud Gemini Enterprise voor het beveiligen en governance van AI-werkstromen.
Welke bedreigingen worden verminderd?
Het helpt risico’s te beheersen zoals kwaadaardige instructie-injecties, lekken van gevoelige data, onveilige antwoorden en ongeautoriseerde acties door agents.
Hoe beschermt het autonome agenten?
Door het implementeren van beleid voor interacties, het limiteren van toegang tot gegevens en tools, het detecteren van bedreigingen en het bieden van inzicht in agentgedrag.