Google heeft het Secure AI Framework (SAIF) uitgebracht, een conceptueel kader bedoeld om kunstmatige intelligentie (AI) technologie te beveiligen. Met de snelle vooruitgang van AI, beoogt het kader veiligheidsnormen in de hele industrie vast te stellen voor de verantwoorde ontwikkeling en implementatie van deze technologieën.
Het SAIF is ontworpen om specifieke risico’s van AI-systemen aan te pakken, zoals het stelen van modellen, het vergiftigen van trainingsdata, het injecteren van kwaadaardige instructies en het extraheren van vertrouwelijke informatie. Door een gestructureerde aanpak te bieden, streeft Google ernaar deze systemen te beschermen en ervoor te zorgen dat AI-toepassingen standaard veilig zijn.
De zes pijlers van het SAIF
- Versterk de veiligheidsbasis in het AI-ecosysteem
Het kader adviseert het gebruik van standaardbeveiligde infrastructuurbeschermingen, ontwikkeld gedurende twee decennia. Het suggereert ook het aanpassen van de mitigatie aan de evoluerende bedreigingen van AI, zoals de injectie van instructies. - Detectie en reactie uitbreiden om AI-dreigingen te omvatten
Tijdige detectie en het vermogen om te reageren op AI-gerelateerde incidenten is cruciaal. Google stelt voor om dreigingsinformatie te integreren om aanvallen voor te zijn en samen te werken met gespecialiseerde vertrouwens- en veiligheidsteams. - Automatiseer verdediging om aan te passen aan nieuwe en bestaande bedreigingen
Het gebruik van AI om te reageren op veiligheidsincidenten kan de snelheid en schaal van de verdediging verhogen. Deze aanpak streeft ernaar de snelheid van aanvallers die ook AI kunnen gebruiken te evenaren. - Unificeer platformbrede controles om consistentie te waarborgen
Het standaardiseren van veiligheidscontroles helpt risico’s op verschillende platformen te verminderen, wat zorgt voor schaalbare beschermingen voor alle AI-toepassingen binnen de organisatie. - Pas controles aan voor snellere reacties en feedbackcycli
Door middel van continu testen en constant leren, kunnen organisaties hun mitigatiestrategieën aanpassen en hun modellen verbeteren om opkomende bedreigingen het hoofd te bieden. - Risico’s in zakelijke processen contextualiseren
Het uitvoeren van uitgebreide risicobeoordelingen stelt organisaties in staat de impact van hun AI-systemen te beoordelen en controles op te zetten die operationele beveiliging en gegevensintegriteit garanderen.
Implementatie en volgende stappen
Google is van plan om met organisaties, klanten en overheden samen te werken om het begrip en de toepassing van het SAIF te bevorderen. Het zal ook mee ontwikkelen aan specifieke AI-veiligheidsnormen, zoals het NIST AI Risk Management Framework en de ISO/IEC 42001 AI Management System Standard.
Dit kader vertegenwoordigt een eerste stap naar een veilige AI-gemeenschap, met de toezegging om verder tools te ontwikkelen en samen te werken om een veilige en voor iedereen voordelige AI te realiseren.