Het bedrijf Palo Alto Networks heeft eerste tests uitgevoerd met enkele van de meest geavanceerde kunstmatige intelligentiemodellen van dit moment, bekend als Frontier AI. Daarbij vallen onder andere het Mythos-model van Anthropic, dat onderdeel is van Project Glasswing, en de nieuwste voorstellen van OpenAI binnen het Trusted Access for Cyber-programma.
Op basis van deze tests heeft het bedrijf vastgesteld dat de generatieve vooruitgang in de programmeercapaciteit van deze modellen directe invloed heeft op het gebied van cybersecurity. Dit leidt tot significante verbeteringen in het identificeren van kwetsbaarheden en het ontwikkelen van exploits.
Daarnaast waarschuwen ze dat, hoewel deze systemen over beschermingsmechanismen beschikken, hun capaciteiten niet volledig onder controle blijven. Volgens hun conclusies is het voorspelbaar dat kwaadwillende actoren zwakke punten in deze waarborgen zullen weten te vinden en geavanceerde kunstmatige intelligentie zullen inzetten om zero-day kwetsbaarheden op grote schaal te ontdekken, exploits bijna in realtime te creëren en autonome aanvalagenten te ontwikkelen met een ongekende mate van verfijning binnen de industrie.
“Binnen zes maanden zullen geavanceerde AI-modellen met diepe cybersecurity-capaciteiten alomtegenwoordig zijn, en organisaties die geen passende beschermmaatregelen hebben getroffen, lopen het risico op een geheel nieuwe soort dreigingen voor hun hele bedrijf en cruciale infrastructuren,” stellen experts van Palo Alto Networks.
De Frontier AI en de impact op het cyberveiligheidslandschap
Honderden toonaangevende beveiligingsingenieurs van Palo Alto Networks hebben deze capaciteiten geëvalueerd en best practices ontwikkeld voor effectief gebruik, waarbij ze ontdekten dat:
- De Frontier AI uitzonderlijk effectief is bij het identificeren van kwetsbaarheden in code. In minder dan drie weken behaalde het hetzelfde resultaat als een heel jaar penetratietests.
- Nog indrukwekkender is dat de Frontier AI excelleert in het koppelen van kwetsbaarheden, door meerdere kleinere fouten te combineren tot kritieke exploitatiepaden.
- De Frontier AI in staat is om de volledige blootstellingsoppervlakte van applicaties te analyseren, inclusief SaaS-platforms en internetgepubliceerde diensten, en logische kwetsbaarheden te identificeren die traditionele tools niet detecteren.
Belangrijke gebieden waarop de Frontier AI een grote invloed zal hebben op cybersecurity:
- De modellen van Frontier AI zullen het tempo waarin kwetsbaarheden worden ontdekt drastisch versnellen. Dit zal vooral cruciaal zijn bij open source code, en de daaropvolgende stroom aan patches zal nieuwe risico’s met zich meebrengen.
- Stijging van “inside-out” aanvallen: recente supply chain-aanvallen op tools zoals LiteLLM en Trivy tonen een toenemend patroon waarbij aanvallers zich binnen de infrastructuur van een organisatie bevinden, waardoor meerdere fasen van traditionele aanvallen worden omzeild en de preventiemogelijkheden voor verdedigers afnemen.
- De kernverandering met Frontier AI-modellen is de overgang van door AI ondersteunde aanvallen naar door AI aangedreven aanvallen. Aanvallers zullen autonome aanvalagenten bouwen die het aanvalscyclustempo aanzienlijk zullen verminderen. Wat voorheen dagen of weken aan handmatig, gespecialiseerd werk vereiste, kan binnenkort binnen enkele minuten plaatsvinden.
Gids voor verdedigers
Organisaties die zich momenteel “voor het grootste deel beschermd” voelen, worden volgens Palo Alto Networks “effectief niet beschermd” en worden aangeraden om het juiste raamwerk te implementeren ter verdediging tegen AI-gedreven dreigingen:
- Elke organisatie zou de meest geavanceerde AI-modellen moeten gebruiken om haar hele codebasis en applicatie-omgeving te evalueren, een volledig inventarisatie te maken van activa en blootstelling, met prioriteit voor het identificeren van kwetsbaarheden met AI, het beoordelen van blootstelling met volledige context, het auditen van de open source supply chain en het in kaart brengen van de huidige dekking van sensoren.
- Remediëren en blootstelling verminderen zijn essentiële basisvereisten. Wat in het verleden moeilijk was door frictie tussen teams bij het snel detecteren en corrigeren van kwetsbaarheden, moet nu versneld worden met de betrokkenheid van het management, mede dankzij de nieuwe AI-modellen. Maar het gaat verder dan dat: het moet inclusief worden toegepast en preventieve mogelijkheden van het eerste niveau worden geïntegreerd.
- Door de versnelde aanvalscycli wordt de traditionele beveiligingsaanpak kwetsbaar. Geïsoleerde tools die gegevens in silo’s analyseren en handmatige processen moeten worden vervangen door AI en end-to-end automatisering.
Palo Alto Networks is bezig met het zetten van de standaard in de sector door haar Unit 42 Frontier AI Defence. Het bedrijf stimuleert ook een wereldwijde alliantie van leiders in transformatie, te beginnen met Accenture, Deloitte, IBM, NTT DATA en PwC, die verder zal worden uitgebreid om te zorgen dat alle bedrijven snel weerbaar worden tegen AI-gerelateerde risico’s.