In een evenement dat een mijlpaal markeert in de convergentie van kunstmatige intelligentie en cyberbeveiligingDe oplossingen voor cyberveiligheid zijn essentieel in het hedendaagse in…, werd het Google Security Engineering Center in Malaga (GSEC Malaga) het toneel van de ‘GSEC Cybersecurity Summit: Cyberverdediging in het tijdperk van AI’. Deze bijeenkomst, gehouden voorafgaand aan het NATO Cyber Commanders’ Forum, bracht experts uit de industrie en de overheid samen om innovatieve oplossingen in het veld van cyberverdediging te verkennen en te bespreken hoe cyberbeveiliging in dit nieuwe tijdperk gedomineerd door kunstmatige intelligentie kan worden getransformeerd.
VirusTotal revolutioneert de malwareanalyse met AI
Een van de meest opmerkelijke nieuwigheden van het evenement was de presentatie van een onderzoek uitgevoerd door VirusTotal, een malware-analyseplatform dat eigendom is van Google. Deze studie onthult hoe grote taalmodellen (LLM) de analyse van malware aan het transformeren zijn en beloven een doorbraak te zijn in dit cruciale veld van de cyberbeveiliging.
LLM’s hebben hun capaciteit bewezen om de analyse van grote hoeveelheden malware binaire code te versnellen, wat de behoefte aan handmatig werk aanzienlijk vermindert. Hoewel er nog uitdagingen zijn, met name vanwege de verduisteringstechnieken die door malwareontwikkelaars worden gebruikt, vereenvoudigen deze modellen het initiële analyseproces, waardoor menselijke analisten efficiënter kunnen werken.
Sleutelfactoren in de effectiviteit van LLM’s
Het onderzoek heeft verschillende factoren geïdentificeerd die de effectiviteit van LLM’s voor malwareanalyse beïnvloeden:
- Nauwkeurige aanwijzingen: Het is cruciaal om prompts te ontwikkelen die LLM’s leiden om nauwkeurige en uitgebreide analyses te verkrijgen. De kwaliteit van de aanwijzingen bepaalt grotendeels de bruikbaarheid van de verkregen resultaten.
- Aanvullende context: De nauwkeurigheid verbetert wanneer aanvullende informatie wordt verstrekt, zoals codefragmenten, resultaten van uitvoering in sandbox-omgevingen en dreigingsinformatie. Deze context verrijkt de analyse en stelt LLM’s in staat diepere en relevantere inzichten te bieden.
- Verduisteringstechnieken: Zwaar verduisterde code kan problemen opleveren voor LLM’s. Malwareontwikkelaars gebruiken deze technieken om analyse te bemoeilijken, wat een constante uitdaging vormt voor AI-systemen.
- Type code: LLM’s bieden betere resultaten met gedecompileerde code, hoewel gedeassembleerde code waardevolle informatie kan leveren bij gevallen van geavanceerde verduistering. Dit onderscheid is essentieel om het analyseproces te optimaliseren en zoveel mogelijk informatie te verzamelen.
De Universiteit van Malaga pioniert in cyberbeveiligingstraining
In een aankondiging die Googles toewijding aan educatie in cyberbeveiliging versterkt, is de Universiteit van Malaga de eerste instelling geworden die geselecteerd is om deel te nemen aan het programma van Cyberbeveiligingsseminars. Dit initiatief, ondersteund door Google.org en de ECCRI (European Cyber Conflict Research Initiative), streeft naar het aanpakken van het tekort aan professionals in het veld van cyberbeveiliging in Europa.
Details van het programma
- De Universiteit van Malaga zal een toelage van 1 miljoen dollar ontvangen.
- Er zullen onderwijsinhouden in het Spaans en intensieve training door de ECCRI worden geboden.
- Het doel is om ten minste 200 studenten op te leiden.
- Er zal ondersteuning worden geboden aan zo’n 250 lokale organisaties.
Dit programma maakt deel uit van een bredere initiatief dat vorig jaar is gelanceerd door Google.org in samenwerking met de ECCRI, met een totale bijdrage van 15 miljoen dollar. Het doel is om de ontwikkeling en het leren van geavanceerde cyberbeveiligingsvaardigheden te verbeteren, inclusief de rol van AI in het dreigingslandschap, en om lokale gemeenschapsorganisaties te ondersteunen bij het implementeren van hun eigen online beschermingen.
Wereldwijde initiatieven in cyberbeveiliging en AI
Het evenement diende ook als een podium om andere relevante initiatieven in het veld van cyberbeveiliging en AI te onderstrepen:
Secure AI Framework (SAIF)
Gelanceerd in juni 2023, zoekt dit kader naar het vaststellen van principes voor de veilige inzet van AI in organisaties van elke grootte. SAIF is geïnspireerd op de beste beveiligingspraktijken die Google heeft toegepast in softwareontwikkeling, terwijl het ook het begrip van megatrends in beveiliging en de specifieke risico’s van AI-systemen integreert.
Coalition for Secure AI (CoSAI)
Mede-opgericht door Google in juli 2024, brengt deze coalitie technologiereuzen samen om de unieke risico’s verbonden aan AI aan te pakken. Onder de oprichters zijn Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, Paypal en Wiz. De coalitie is ondergebracht bij OASIS Open, het internationale consortium voor normen en open-source.
Google’s AI Cyber Defense Initiative
Aangekondigd eerder dit jaar, stelt dit initiatief een plan vast om te investeren in samenwerking, onderzoek en innovatie op het gebied van door AI aangedreven cyberbeveiliging. Google presenteerde een rapport getiteld “Secure, Empower, Advance: How AI Can Reverse the Defender’s Dilemma” dat een beleids- en onderzoeksagenda biedt met drie sleutelaanbevelingen:
- Beveilig AI vanaf het begin, met prioriteit voor veilige ontwerppraktijken.
- Versterk verdedigers meer dan aanvallers door het bevorderen van een evenwichtige regelgevende aanpak.
- Bevorder samenwerking in onderzoek om wetenschappelijke vooruitgang in beveiliging en softwareontwikkeling te genereren.
Het voordeel van de verdediger
Op 18 september 2024 publiceerde Mandiant (onderdeel van Google Cloud) de tweede editie van het e-boek “The Defender’s Advantage”. Deze studie detailleert hoe dreigingsinformatie de kritieke functies van cyberverdediging stimuleert: Detecteren, Reageren, Valideren, Jagen en Missie Controle. Bovendien is er een supplement over AI gepubliceerd dat beschrijft hoe generatieve AI kan worden gebruikt om cyberverdediging te verbeteren, de efficiëntie te verhogen, handwerk te verminderen en de capaciteiten van beveiligingsteams te verbeteren.
Het ‘GSEC Cybersecurity Summit’ evenement heeft aangetoond welke cruciale rol Malaga speelt in het bevorderen van wereldwijde cyberveiligheid, zich vestigend als een centrum van innovatie en opleiding in dit kritische gebied voor de digitale toekomst. De samenwerking tussen academie, industrie en overheid belooft de ontwikkeling van op AI gebaseerde veiligheidsoplossingen te versnellen, en bereidt de weg voor een internet dat veiliger en weerbaarder is tegen de steeds evoluerende cyberdreigingen.
vÃa: AndalucÃa Informa