De veiligheid van kunstmatige intelligentie bevindt zich in een nieuwe fase. Het beschermen van het model of het filteren van de antwoorden is niet langer voldoende: agents kunnen code uitvoeren, databases raadplegen, toegang krijgen tot bedrijfsgerichte tools en handelen met echte permissies. Om te reageren op dit scenario hebben NVIDIA, Microsoft, Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Mistral, Red Hat en tientallen andere bedrijven de Open Secure AI Alliance opgericht. Deze initiatief richt zich op het ontwikkelen van open tools om modellen, agents en de softwareleveringsketen te beveiligen.
In 30 seconden: de kernpunten van de Open Secure AI Alliance
- Meer dan 50 bedrijven en organisaties zijn lid van de nieuwe alliantie.
- Het doel is het creëren van een open defensielaag voor agents, modellen en software.
- NVIDIA levert NOOA, een framework om agents te testen, te traceren en te auditen.
- De initiatief zal ook werken aan identificatie, isolatie, veilige formaten en kwetsbaarhedenanalyse.
- De uitdaging is om een zo breed gedragen coalitie om te zetten in interoperabele standaarden en daadwerkelijk geadopteerde projecten.
De alliantie is gebaseerd op een concrete technische benadering: een AI-agent is niet slechts een taalmodel. Het bestaat uit een systeem dat wordt gevormd door het model, het framework dat het beheert, de tools die het kan aanroepen, de permissies die het krijgt, de logs die het genereert en de beleidslijnen die het gedrag limiting.
Deze set vergroot het aanvaloppervlak. Een fout kan ontstaan in het model zelf, maar ook in de agent-omgeving (harness), in een API-call, in het identiteitsbeheersysteem, in een plugin, in het formaat van de gewichten of in een open source afhankelijkheid.
Van modelbeveiliging naar volledige stackveiligheid
De afgelopen jaren lag de discussie vooral over of modellen open of gesloten moeten zijn. De Open Secure AI Alliance streeft ernaar die discussie te verschuiven naar een practicaler vraag: welke controles heeft een agent nodig om in productie veilig te functioneren?
Het antwoord bestaat uit meerdere lagen:
- Verifieerbare identiteit voor agents en services;
- Minimale permissies;
- Procesisolatie;
- Traceerbaarheid van acties;
- Complete logging;
- Veilige modelformaten;
- Code- en kwetsbaarhedenscans;
- Continue evaluatie;
- Controles over tools en connectors;
- Beveiliging van de supply chain.
Deze visie lijkt meer op cloudbeveiliging of zero trust-benaderingen dan op traditionele modelmoderatie. Het gaat niet meer alleen om wat een AI antwoordt, maar ook wat het kan doen zodra het toegang heeft tot interne systemen.
Een agent gekoppeld aan GitHub, SAP, Salesforce of een bedrijfsdatabase kan een echte impact hebben. Daarom moeten beveiligingsmaatregelen vanaf de identiteitscontrole tot en met het loggen van elke actie in het volledige proces zijn geïntegreerd.
Waarom de alliantie open tools steunt
De initiatiefnemers stellen dat cybersecurityteams tools nodig hebben waarmee ze kunnen inspecteren, aanpassen en uitvoeren binnen hun eigen infrastructuur.
Bij een forensisch onderzoek kan een bedrijf bijvoorbeeld gevoelige logs, propriëtair code of klantgegevens beheren. Afhankelijk zijn van een gesloten, extern platform kan het analyseproces beperken of vertrouwelijkheidsschermen introduceren.
Daarnaast blokkeren sommige commerciële modellen taken gerelateerd aan malware, exploits of reverse engineering omdat ze niet voldoende kunnen onderscheiden tussen offensief en defensief gebruik. Dit kan logisch zijn voor algemene diensten, maar bemoeilijkt ook het werk van een incident response-team.
De alliantie beweert dat open modellen en systemen die op eigen infrastructuur draaien, toelaten:
- beleid aan te passen;
- gegevens binnen de organisatie te houden;
- gedrag te auditen;
- het systeem af te stemmen op de specifieke omgeving;
- af te stemmen op meerdere leveranciers;
- veelvoorkomende faultpoints te verminderen.
Dit elimineert niet alle risico’s. Een open model kan ook gewijzigd worden om bescherming te verwijderen of voor offensief gebruik. De groep streeft niet naar onverschilligheid voor dat probleem, maar naar een combinatie van openheid, evaluaties, controles en herstellingsprocessen.
NOOA: het auditeerbare framework van NVIDIA voor agents
NVIDIA presenteert NVIDIA Labs Object-Oriented Agents, oftewel NOOA, als een van haar eerste bijdragen.
Het project probeert de definities van een agent te vereenvoudigen. In plaats van de status, tools, prompts en capaciteiten te spreiden over meerdere bestanden of componenten, stelt NOOA een objectgeoriënteerde structuur voor waarin deze elementen worden gegroepeerd.
Het doel is het makkelijker maken:
- te controleren welke tools de agent gebruikt;
- de uitvoering te volgen;
- beslissingen te loggen;
- gedragingen te testen;
- capaciteiten te beperken;
- gebruikte permissies te reviewen.
Deze aanpak is nuttig omdat veel agent-frameworks snel evolueren en niet altijd duidelijk maken wat er tijdens een uitvoering gebeurt. In bedrijfsomgevingen bemoeilijkt dat audits, compliance en incidentrespons.
NOOA bevindt zich nog in een vroege fase; de daadwerkelijke waarde hangt af van compatibiliteit met modellen en platformen, de kwaliteit van documentatie en de adoptie door ontwikkelaars.
Identiteit, veilige modellen en multi-agent scanning
De alliantie verzamelt projecten die verschillende lagen van beveiliging adresseren.
HPE draagt bij met SPIFFE en SPIRE, systemen die cryptografische identiteiten bieden aan workloads en services. Bij AI-agenten zou dit validatie mogelijk maken van wie een verzoek doet en of die geautoriseerd is.
Hugging Face levert Safetensors, een opslagformaat dat is ontworpen om risico’s te verminderen verbonden aan serialisatieprocessen die code kunnen uitvoeren.
Microsoft ontwikkelt MDASH, een harness waarin meerdere gespecialiseerde agents samenwerken om kwetsbaarheden te zoeken en te valideren. Deze multi-agent aanpak streeft naar betere analyses door systemen die resultaten controleren, bespreken en verifiëren.
IBM en Red Hat bieden oplossingen voor digitaal ondertekende patches en beveiliging van de supply chain, om te garanderen dat updates legitiem zijn en niet zijn gemanipuleerd.
De combinatie laat zien dat de alliantie niet gericht is op één enkele cyberbeveiligingsstandaard. Haar doel is het bouwen van een infrastructuur uit herbruikbare tools, standaarden en formaten.
Het vraagstuk van interoperabiliteit
De ledenlijst is uitgebreid: NVIDIA, Adobe, Cisco, Cloudflare, CrowdStrike, Databricks, Dell, Elastic, Fortinet, GitHub, HPE, IBM, Microsoft, Mistral, NetApp, Nokia, Palantir, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens, Snowflake, Synopsys, Uber en Zscaler, onder anderen.
Deze diversiteit brengt expertise over bijna alle lagen van de stack, maar maakt coördinatie tegelijkertijd complexer.
Voor de impact van de initiatief te vergroten, moet men enkele vragen kunnen beantwoorden:
- welke specificaties worden gedeeld;
- welke projecten prioriteit krijgen;
- hoe de repositories worden bestuurd;
- welke licenties worden gebruikt;
- hoe kwetsbaarheden worden gedeeld;
- hoe interoperabiliteit wordt getest;
- aan welke criteria tools moeten voldoen om compatibel te zijn.
Het risico bestaat dat het eindigend in een verzameling losse projecten zonder gedeeld architectuur. De beveiliging van agents heeft componenten nodig die samenwerken, niet alleen geïsoleerde tools.
Een antwoord op de groei van autonome agents
De timing van de aankondiging is geen toeval.
Bedrijven migreren van chatbots naar agents die daadwerkelijk kunnen handelen op systemen. Dit brengt nieuwe risico’s met zich mee:
- prompt-injecties;
- privilege-escalatie;
- misbruik van tools;
- exposure van geheimen;
- uitvoering van code;
- manipulatie van uitkomsten;
- agent-scripts overname;
- laterale toegang tot interne diensten.
In zo’n omgeving zijn traditionele verdedigingen vaak onvoldoende. Een webapplicatiefilter begrijpt niet altijd de logica van een agent. Een traditionele identiteitsservice kan weten wie de gebruiker is, maar niet altijd welke agent in diens naam handelt.
De alliantie probeert dat gat te dichten met controles die specifiek ontworpen zijn voor agent-architecturen.
Open en gesloten modellen moeten naast elkaar blijven bestaan
De Open Secure AI Alliance stelt niet dat alle modellen open moeten zijn.
Haar voorstanders pleiten voor een combinatie van beide werkwijzen. Gesloten modellen kunnen betere prestaties, commerciële ondersteuning en beheerde controles bieden. Open modellen maken inspectie, lokale deployment en aanpassing mogelijk.
In cybersecurity hangt de keuze af van het use case.
Een bedrijf kan bijvoorbeeld een commercieel model gebruiken voor algemene taken en een open model binnen haar SOC voor het analyseren van gevoelige data. Het is ook mogelijk meerdere modellen te combineren en elk een ander toegangsniveau toe te kennen.
Deze multimodale aanpak vermindert afhankelijkheid van één enkele leverancier, maar verhoogt de complexiteit. Elk model kan andere capaciteiten, beleidsregels en risico’s hebben. Daarom krijgen hulpprogramma’s en controlelagen een belangrijke rol.
De volgende stap: resultaten tonen
Het initiatief brengt veel bekende namen samen, maar het succes wordt niet bepaald door het aantal logo’s.
De alliantie moet nuttige code publiceren, duidelijke standaarden definiëren en aantonen dat haar tools werken in realistische omgevingen. Het moet ook voorkomen dat het bestaande initiatieven binnen o.a. OpenSSF en de Linux Foundation dupliceert.
De oprichting van deze coalitie bevestigt dat de veiligheid van agents niet alleen een modelprobleem is, maar ook een infrastructuurvraagstuk.
De zakelijke AI evolueert naar systemen met actiecapaciteit. Bescherming ervan vereist identiteiten, permissies, observabiliteit, isolatie en vergelijkbare evaluatietools zoals in cloud- en traditionele software-omgevingen.
De Open Secure AI Alliance wil dat deze basis open ontwikkeld wordt. Nu is het aan haar om te bewijzen dat die ambitie kan worden vertaald in een defensielaag die ontwikkelaars en security-teams kunnen inzetten.
Veelgestelde vragen
Wat is de Open Secure AI Alliance?
Het is een initiatief van technologiebedrijven, cybersecurity-organisaties en open source-gemeenschappen om open beveiligingstools te ontwikkelen voor AI-modellen en agents.
Welke problemen probeert het op te lossen?
Het richt zich op het beschermen van de volledige stack van een agent: inclusief identiteit, permissies, tools, logs, modellen, formaten en supply chain.
Wat is NVIDIA NOOA?
Een open framework om AI-agents gestructureerd, traceerbaar en beter auditbaar te maken.
Streeft de alliantie alleen naar open modellen?
Nee. Ze pleit voor een mix van open en gesloten modellen, waarbij keuzes gemaakt worden op basis van veiligheidseisen, prestaties, privacy en controle.
Bron: Nieuws Kunstmatige Intelligentie