Artificial intelligence creëert zijn eigen categorie binnen cybersecurity. Gartner schat dat de wereldwijde markt die zich specifiek richt op het beveiligen van IA-systemen en -toepassingen in 2027 zal bereiken 4.783 miljoen dollar, vergeleken met de voorspelling van 2.835 miljoen dollar voor 2026. Deze groei van 68,7 % vindt plaats in slechts één jaar en zet door tot bijna 7.700 miljoen dollar in 2028.
De kernpunten over AI-beveiliging in 20 seconden
- Gartner voorziet dat de markt zal groeien van 2.835 miljoen dollar in 2026 naar 4.783 miljoen dollar in 2027.
- AI Application Security wordt de grootste specifieke categorie, met 851 miljoen dollar.
- AI Usage Control zal met 73 % toenemen, en AI Gateways met 70,9 %.
- Agents brengen risico’s met zich mee op het gebied van permissies, tools en prompt injection.
- Gartner voorspelt dat in 2029 meer dan de helft van de succesvolle aanvallen op agents gebruik zullen maken van toegang controles en prompt injection.
Deze voorspelling weerspiegelt een verandering die al zichtbaar wordt in bedrijfsarchitecturen. AI is gestopt bij het zijn van een API die tekst ontvangt en een andere teruggeeft. Modellen worden verbonden met databases, code repositories, e-mail, opslag, interne zoekmachines en bedrijfstools.
Agents tillen deze integratie nog verder door operaties te kunnen verbinden en acties uit te voeren met behulp van credentials en permissies.
Dit vergroot het aanvalspatroon en vereist nieuwe beveiligingscontroles die niet konden worden voorzien toen veel traditionele beveiligingstools werden ontworpen.
Hoe AI-agents de beveiligingsuitdaging veranderen
Gartner onderscheidt vier grote segmenten binnen deze nieuwe markt: AI Application Security, AI Usage Control, AI Governance Platforms en AI Gateways. Daarnaast worden andere technologieën genoemd die gericht zijn op het beveiligen van AI-systemen.
Alle segmenten zullen in 2027 met meer dan 67 % groeien.
| Segment | 2026 | 2027 | Groei |
|---|---|---|---|
| AI Application Security | 508 M$ | 851 M$ | 67,5 % |
| AI Usage Control | 433 M$ | 749 M$ | 73,0 % |
| AI Governance Platforms | 275 M$ | 462 M$ | 68,0 % |
| AI Gateway | 251 M$ | 429 M$ | 70,9 % |
| Overige oplossingen | 1.368 M$ | 2.292 M$ | 67,5 % |
| Totaal | 2.835 M$ | 4.783 M$ | 68,7 % |
De grootste specifieke besteding zal gaan naar AI Application Security, met een verwachte omzet van 851 miljoen dollar. Dit omvat technologieën gericht op het identificeren van kwetsbaarheden en het beschermen van applicaties gebouwd rondom AI-modellen.
De snelste groei wordt echter verwacht bij AI Usage Control, met een voorspelde toename van 73 %.
Dit brengt een van de meest dringende problemen voor IT- en securityafdelingen naar voren: controleren hoe werknemers en applicaties AI gebruiken.
Tijdens de eerste uitrol van ChatGPT en andere generatieve assistenten was er vooral bezorgdheid over het fenomeen Shadow AI: werknemers die ongeautoriseerde tools gebruiken en code, documenten of bedrijfsinformatie naar externe diensten sturen.
Met agents wordt het probleem op grote schaal aangepakt.
Een agent kan toegang hebben tot Slack, Microsoft 365, Google Workspace, GitHub, CRM, ERP, cloudopslag of databases. Afhankelijk van de configuratie kan hij alleen informatie opvragen of ook wijzigen.
Daarom is het niet meer voldoende om alleen het model te beveiligen. Ook de acties die de agent namens de gebruiker kan uitvoeren, moeten worden beschermd.
De traditionele principes van Identity and Access Management (IAM), minimaal privilege en scheiding van permissies, blijven geldig, maar er is nu een extra laag die beslissingen neemt via natuurlijke taal.
Prompt injection: instructies in de data
Gartner noemt vooral prompt injection als een van de risico’s verbonden aan agents.
De voorspelling is dat in 2029 meer dan de helft van de succesvolle cyberaanvallen op AI-agents gebruik zullen maken van beveiligingslekken in toegangscontrole en prompt injection.
Hoewel dit een prognose is, helpt het om te begrijpen waarom er gespecialiseerde tools worden ontwikkeld.
Een prompt injection probeert instructies te introduceren die het gedrag van een model wijzigen. Bij eenvoudige toepassingen kunnen deze direct van de gebruiker komen, maar agents maken ook gebruik van minder voor de hand liggende scenario’s.
Een agent kan malafide instructies vinden in een webpagina, een document, een e-mail of andere inhoud die hij moet verwerken.
Daar komt de term indirect prompt injection kijken.
Het probleem is het correct scheiden van gegevens die het model moet analyseren en de instructies die het daadwerkelijk moet opvolgen.
Dit wordt vooral complex wanneer de agent toegang heeft tot tools.
Als hij alleen tekst genereert, zijn de gevolgen meestal beperkt. Maar een agent die berichten kan versturen, commando’s kan uitvoeren, bestanden kan wijzigen of privégegevens kan opvragen, vormt een groter beveiligingsrisico voor organisaties.
Het beheren van permissies wordt dan onlosmakelijk verbonden met de beveiliging van het LLM zelf.
AI Gateways: nieuwe infrastructuurlaag
Een van de meest interessante segmenten voor infrastructuurbere teams wordt AI gateways.
Gartner verwacht dat de uitgaven hiervan zullen stijgen van 251 miljoen dollar in 2026 tot 429 miljoen dollar in 2027, een groei van 70,9 %.
De ontwikkeling is logisch: de eerste generatieve toepassingen konden direct verbinding maken met één enkele API. Nu kunnen organisaties tegelijkertijd modellen van OpenAI, Anthropic, Google, Mistral, Meta, DeepSeek of Qwen gebruiken, naast modellen die op eigen infrastructuur draaien.
Een enkele applicatie kan afhankelijk van de kosten, bandbreedte of eisen meerdere LLM’s gebruiken.
Het gateway ligt tussen de applicaties en de set modellen.
Vanuit die positie kan hij beleid, authenticatie, observatie en beperkingen centraliseren. Ook kan hij bepalen welke modellen en leveranciers toegang krijgen, en welke applicaties gebruik mogen maken van welke diensten.
De gedachte lijkt op die van API-gateways, die populair werden door microservices, maar AI voegt nieuwe elementen toe die inspectie vereisen.
Er worden niet alleen parameters en responses uitgewisseld, maar ook prompts, omvangrijke contexten, documenten, beelden, toolaanroepen en dynamisch gegenereerde antwoorden.
Een AI gateway kan daardoor een punt worden waar beleid wordt toegepast vóór het versturen van een verzoek en waar responses worden gecontroleerd.
Daarnaast maakt model routing het mogelijk dat deze laag andere functies op zich neemt. Een organisatie kan verschillende modellen inzetten op basis van prijs, prestaties of beschikbaarheid, zonder dat elke applicatie zelf alle inloggegevens en providers hoeft te beheren.
Beveiliging, routing en observatie worden zo samengebracht in één laag binnen de architectuur.
Governance: eerst ontdekken welke IA-prijzen er zijn
Een ander marktsegment dat Gartner verwacht dat snel zal groeien, zijn AI Governance Platforms, van 275 miljoen dollar in 2026 tot 462 miljoen dollar in 2027.
Voor het opstellen van beveiligingsbeleid moet eerst duidelijk zijn welke IA-systemen er in het bedrijf actief zijn.
Veel organisaties weten niet precies hoeveel systemen er draaien, zoals zelfontwikkelde applicaties, ingebedde assistenten in SaaS-producten, API’s die departementen inhuren, open modellen op eigen servers en experimentele agents van technische teams.
Het beginsel van een inventaris is slechts het begin.
Daarna moeten varianten van modellen per toepassing worden geïdentificeerd, inclusief welke data wordt verwerkt, waar het draait, wie er toegang toe heeft, welke provider wordt gebruikt en welke tools worden ingezet.
Agents voegen ook relaties tussen systemen toe.
Een agent kan een LLM van een leverancier gebruiken, een database raadplegen op een ander platform en een actie uitvoeren via een bedrijfs-API. De beveiliging moet dat volledige keten beschermen.
Daarom verwacht Gartner dat bestaande governanceplatforms en grote bedrijfsleveranciers hun producten uitbreiden met AI-beheersmogelijkheden.
De toeleveringsketen wordt belangrijk in de AI-beveiliging
Gartner noemt een ander risico dat niet direct gerelateerd is aan prompts: de software supply chain.
Veel AI-projecten worden opgebouwd met behulp van externe componenten.
Open modellen, Python-libraries, inferentierameworks, agent-tools, MCP-servers, connectors, containers, model-repositories en gedownloade pakketten uit openbare registries kunnen allemaal deel uitmaken van dezelfde applicatie.
Het risico van afhankelijkheden van derden is niet nieuw voor AI. Incidenten zoals Log4Shell, aanvallen op pakketrepositories en gestolen credentials maken al jaren duidelijk dat de supply chain gecontroleerd moet worden.
AI voegt hier nog meer componenten aan toe.
Een extern gedownload model blijft een artifact dat moet worden geverifieerd. Hetzelfde geldt voor een container die wordt gebruikt voor inferentie of een gereedschap dat een agent installeert om toegang te krijgen tot een dienst.
Naarmate bedrijven meer AI op eigen infrastructuur inzetten, wordt het beveiligen van de volledige stack even belangrijk als het beschermen van het model zelf.
Traditionele beveiliging blijft noodzakelijk
De snelle groei van deze nieuwe industrie kan de indruk wekken dat alle bestaande beveiligingstools moeten worden vervangen door een compleet nieuwe categorie.
Gartner ziet het echter als een combinatie.
Firewalls, Endpoint Detection and Response (EDR), Security Information and Event Management (SIEM), identity management, API-beveiliging, dataprotectie en netwerkcontroles blijven noodzakelijk.
Een databank die door een agent wordt benaderd, vereist nog steeds authenticatie.
Een API moet nog steeds worden geautoriseerd.
Een inferentieserver vraagt nog steeds om updates en monitoring.
Het verschil is dat deze lagen niet automatisch begrijpen wat het betekent dat een model een prompt injection ontvangt of dat een agent probeert een tool op een onverwachte manier te gebruiken.
Daar komt ruimte voor gespecialiseerde producten die Gartner tot de markt rekent.
De voorspelling is dat de markt zich zal consolideren. In gebieden zoals AI Application Security en AI Usage Control ontstaan gespecialiseerde startups, terwijl in governance en gateways de bestaande zakelijke producenten voordeel hebben omdat zij delen van de infrastructuur al beheersen.
Bij een marktwaarde die in 2028 bijna 7.700 miljoen dollar kan bereiken, zullen overnames naar verwachting toenemen.
De geschiedenis van cybersecurity laat zien dat wanneer een nieuwe aanvalssurface ontstaat, er snel gespecialiseerde tools worden ontwikkeld en dat vervolgens grote platforms deze functies integreren, hetzij door ontwikkeling of door overname.
In de context van AI kan dit proces bijzonder snel verlopen.
Bedrijven gaan in korte tijd van chatbots naar agents die toegang hebben tot bedrijfskritische infrastructuur. Hoe meer een agent kan doen, hoe belangrijker wordt het te weten wie het controleert, welke permissies het heeft, welke data het gebruikt en wat er gebeurt als iemand het weet te misleiden.
De voorspelde 4.783 miljoen dollar in 2027 van Gartner onderstreept dat het beveiligen van AI niet langer een experimenteel onderdeel is, maar een onlosmakelijke laag binnen de bedrijfs-technologie stack.
Veelgestelde vragen
Hoeveel zal de markt voor AI-beveiliging groeien in 2027?
Gartner voorspelt een groei van 68,7 %, van 2.835 miljoen dollar in 2026 naar 4.783 miljoen dollar in 2027. Tegen 2028 zou de markt bijna 7.700 miljoen dollar kunnen bedragen.
Wat is een AI gateway?
Het is een tussenlaag tussen applicaties en AI-modellen die beleid, authenticatie, observatie en beperkingen kan centraliseren over aanbieders en modellen. Gartner verwacht dat deze sector in 2027 429 miljoen dollar zal bereiken.
Waarom maakt prompt injection vooral zorgen bij AI-agents?
Omdat een agent malafide instructies kan verwerken die gevonden worden in documenten, e-mails of webpagina’s en er tegelijkertijd tools voor kan inzetten om acties uit te voeren. Gartner voorziet dat in 2029 meer dan de helft van de succesvolle aanvallen op agents gebruik zal maken van toegangscontrolelekken en prompt injection.
Zullen deze tools de traditionele cybersecurity vervangen?
Nee. Gartner adviseert een combinatie van bestaande beveiligingsmaatregelen en gespecialiseerde technologieën die relevante risico’s voor AI-modellen en agents kunnen detecteren en voorkomen.
Bron: Open Security