Darktrace heeft de algemene beschikbaarheid aangekondigd van Darktrace / SECURE AI, een platform ontworpen om bedrijven inzicht te geven in hoe medewerkers en agenten gebruik maken van kunstmatige intelligentie, ongeautoriseerde diensten op te sporen en beveiligingsbeleid te implementeren voor prompts, data en AI-systemen. Het bedrijf stelt dat meer dan 80% van haar klanten al AI-generatieve diensten gebruikt en dat sinds augustus 2026 een gemiddelde organisatie met vijf verschillende AI-leveranciers in contact kwam.
De kernpunten van Darktrace / SECURE AI in 30 seconden
- SECURE AI maakt het mogelijk om het bedrijfsgebruik van AI-diensten te ontdekken en te beheersen.
- Darktrace bevat analyses van prompts, beleidsbeheer en toezicht op AI-agenten.
- Het platform integreert met AWS, Anthropic, Microsoft en OpenAI, onder andere leveranciers.
- Darktrace benadrukt dat meer dan 80% van haar klanten AI-generatieve diensten gebruiken.
- De oplossing is beschikbaar als los product, binnen haar beveiligingsplatform of via AWS en Microsoft Marketplace.
De lancering speelt in op een situatie waarin AI-adoptie binnen organisaties zich gedistribueerd ontwikkelt. Medewerkers kunnen verschillende assistenten en platforms gebruiken, terwijl beveiligingsteams inzicht nodig hebben in welke diensten worden ingezet, welke gegevens worden gedeeld en welke agenten toegang hebben tot bedrijfsmiddelen.
Darktrace gebruikt de term Shadow AI voor het gebruik van AI-hulpmiddelen die niet officieel door de organisatie zijn goedgekeurd of gemonitord. SECURE AI wil hierover meer inzicht geven en dit actief koppelen aan interne beleidslijnen.
Volgens het bedrijf heeft 80% van haar gemonitorde klanten in augustus 2026 gebruikgemaakt van een AI-generatieve dienst. Deze statistiek is gebaseerd op telemetrie van ongeveer 8.200 deployments die Darktrace heeft vastgesteld, en vertegenwoordigt dus haar eigen klantenbestand, niet de gehele markt.
Controle over prompts, agenten en AI-diensten
Darktrace / SECURE AI biedt verschillende functies om het gebruik van AI binnen een organisatie te bewaken.
Een daarvan is het beheer van Shadow AI. Het systeem identificeert activiteiten gericht op AI-diensten die niet zijn goedgekeurd en kan telemetrie van Darktrace en SASE-integraties, zoals Microsoft Entra Global Secure Access, gebruiken om bepaalde activiteiten te blokkeren of apparaten in quarantaine te plaatsen.
Daarnaast bevat het analyse van prompts. Deze functie geeft inzicht in instructies, sessies en reacties op verschillende ondersteunde platforms, waaronder Amazon Bedrock, ChatGPT Enterprise, Claude, Microsoft Copilot en Copilot Studio. Darktrace geeft aan dat er binnenkort ondersteuning wordt toegevoegd voor Salesforce.
De analyse is gericht op het detecteren van gedrag zoals jailbreakpogingen, blootstelling van gevoelige informatie en mogelijke prompt injection-aanvallen. Sessies worden ingedeeld op basis van risiconiveau, zodat security teams prioriteit kunnen geven aan onderzoek.
Het platform bevat ook een beleidsbeheerfunctie waarmee organisaties documenten kunnen uploaden met specifieke regels. Beheerders kunnen hiermee controlemaatregelen definiëren en de naleving concluderen in relatie tot regelgeving en compliance-standaarden.
Deze aanpak vertaalt interne beleidsregels naar het dagelijks gebruik van AI-systemen. In plaats van alleen het gebruik van tools te monitoren, is het doel ook te verifiëren of gebruikersactiviteiten en agentgedrag binnen de toegestane grenzen blijven.
AI-agenten voegen een extra toezichtlaag toe
De groei van AI-agenten brengt een extra uitdaging met zich mee: deze systemen kunnen eigen identiteiten krijgen en toegang krijgen tot applicaties, data of infrastructuur om taken uit te voeren.
SECURE AI identificeert agenten en gebruikers die geassocieerd zijn met AI-activiteiten in compatibele omgevingen en biedt inzicht in permissies, functies en relaties. Het doel is te begrijpen wat elk agent doet en of haar acties passen binnen het oorspronkelijke doel.
Darktrace bevat bovendien tools voor het toezicht op de ontwikkeling van agenten. De platformen kunnen ontwikkelomgevingen op zowel laag- als hoog niveau analyseren, zoals Amazon Bedrock en Microsoft Copilot Studio, om identiteiten, overmatige permissies, verkeerd ingestelde configuraties en afwijkend gedrag tijdens de creatie te detecteren.
Deze informatie verbindt twee fasen in de levenscyclus van een agent: de ontwikkelfase en het gedrag na deployment. Voor securityteams biedt dit de mogelijkheid te beoordelen of een initieel ingestelde configuratie mogelijk leidt tot onverwachte gedragingen.
Darktrace baseert dit op haar Adaptive AI-technologie, die volgens het bedrijf de normale patronen van elke organisatie leert. SECURE AI breidt deze aanpak uit naar gebruikers, prompts, agenten en AI-systemen.
Darktrace beweert dat dit model gedrag kan detecteren dat niet automatisch gekoppeld is aan bekende dreigingen. Het is een technologisch uitgangspunt dat incidenten niet altijd automatisch kunnen worden vastgesteld.
Integraties met AWS, Anthropic, Microsoft en OpenAI
De lancering omvat integraties met verschillende toonaangevende AI-leveranciers en infrastructuurproviders.
Met Amazon Web Services (AWS) verbreedt Darktrace haar toezicht op de ontwikkeling en werking van agenten die met Amazon Bedrock zijn gemaakt. Het doel is de bouw van agenten te koppelen aan hun gedrag na deployment.
Voor Anthropic biedt SECURE AI monitoringsmogelijkheden voor prompts en antwoorden van Claude, binnen de beleidskaders van de organisatie.
De integratie met Microsoft biedt meer zicht op gebruikers en agenten van Microsoft Copilot, inclusief het ontwikkelen van agenten via Copilot Studio.
Met OpenAI biedt Darktrace toezicht op het gebruik van ChatGPT Enterprise en Codex. Beide partijen werken samen via Daybreak Defense Network, waarbij modellen van OpenAI en Darktrace-analyse worden gecombineerd.
Volgens Darktrace helpt deze samenwerking om incidenten met betrekking tot AI binnen organisaties beter te identificeren en te contextualiseren, zodat beveiligingsteams betere prioriteiten kunnen stellen.
Darktrace noemt voorbeelden van klanten die al gebruik maken van SECURE AI: in één organisatie werd ontdekt dat, ondanks één goedgekeurde AI-assistent, medewerkers meerdere niet-geautoriseerde diensten gebruikten. In een andere organisatie werden door contractanten meerdere AI-platformen ingezet zonder centrale controle, wat leidde tot juridische en beleidsmatige aanpassingen. Een derde voorbeeld betrof bijna 90 AI-agenten binnen een low-code ontwikkelomgeving die zonder goedkeuringsproces werden gemaakt.
Deze cases illustreren de situaties die Darktrace met SECURE AI wil aanpakken. Ze geven geen afspiegeling van de frequentie van dergelijke problemen in de markt.
SECURE AI is sinds 22 september 2026 beschikbaar voor nieuwe en bestaande klanten van Darktrace. Het kan los worden afgenomen, of als onderdeel van de Darktrace Behavioral Defense Platform, en is verkrijgbaar via AWS Marketplace en Microsoft Marketplace.
Darktrace, dat naar eigen zeggen bijna 10.000 klanten wereldwijd beschermt, positioneert SECURE AI als een extra laag om de groei en het gebruik van AI binnen organisaties te monitoren. De focus verschuift van het bewaken van gebruikte tools naar het gedrag van gebruikers, agenten, prompts en verbonden systemen.
Veelgestelde vragen
Wat is Darktrace / SECURE AI?
Een oplossing van Darktrace voor het ontdekken en monitoren van bedrijfsgebruik van AI, inclusief toegestane en niet-toegestane diensten, prompts, gebruikers en agenten.
Wat is Shadow AI?
Shadow AI verwijst naar het gebruik van AI-tools en -diensten binnen een organisatie zonder de formele toestemming of monitoring door de verantwoordelijke teams.
Met welke platforms integreert SECURE AI?
Darktrace vermeldt integraties met Amazon Web Services, Anthropic, Microsoft en OpenAI, en ondersteunt platforms zoals Amazon Bedrock, Claude, ChatGPT Enterprise, Microsoft Copilot en Copilot Studio.
Is Darktrace / SECURE AI beschikbaar?
Ja. Darktrace maakte de algemene beschikbaarheid bekend op 22 september 2026 voor zowel nieuwe als bestaande klanten, als los product, geïntegreerd in het beveiligingsplatform en via AWS en Microsoft Marketplace.