Nieuwe Regelgeving voor Kunstmatige Intelligentie in Spanje en de EU
Op vrijdag 2 augustus markeert een belangrijk keerpunt in de technologische regulering in Spanje en de rest van de Europese Unie. Vanaf deze datum treedt het sanctieregime van de Europese Verordening inzake Kunstmatige Intelligentie (RIA) in werking. Dit maakt het mogelijk om aanzienlijke financiële sancties op te leggen aan bedrijven die de regels rondom de ontwikkeling, implementatie en het gebruik van kunstmatige intelligentie (AI) niet naleven. Boetes kunnen oplopen tot 35 miljoen euro of tot 7% van de wereldwijde jaarlijkse omzet van de overtreder.
Deze nieuwe sanctiekaders komen op een moment van maatschappelijk wantrouwen. Volgens een enquête van Entelgy, The Business Tech Consultancy, gelooft slechts 8,8% van de burgers dat er momenteel voldoende strenge regelgeving bestaat voor AI. Daarnaast is er een verontrustend gebrek aan vertrouwen in de autoriteiten: 88,6% van de ondervraagden is van mening dat de overheden onvoldoende garanties bieden voor controle en toezicht op deze technologie.
Bovendien toont de enquête aan dat er een laag algemeen kennisniveau is over de huidige regelgeving. Slechts 11,4% van de burgers zegt goed geïnformeerd te zijn over de bestaande regels met betrekking tot kunstmatige intelligentie. Dit percentage stijgt licht tot 19,3% in de leeftijdsgroep van 18 tot 29 jaar. Deze gegevens benadrukken de dringende behoefte aan bewustmakingscampagnes en educatie om de wetgeving toegankelijker te maken voor de samenleving en het vertrouwen in een ethische en veilige ontwikkeling van deze technologieën te versterken.
Privacy is ook een grote zorg onder de bevolking. Acht op de tien mensen maken zich zorgen dat AI-systemen persoonlijke informatie verzamelen zonder de nodige beschermingsgaranties. Deze bezorgdheid is bijzonder hoog onder de 30- tot 49-jarigen (81,4%) en mensen boven de 50 jaar (81%).
Sanktioneerde Praktijken onder de Nieuwe Regelgeving
Met de inwerkingtreding van het sanctieregime zullen praktijken die worden beschouwd als “onaanvaardbaar risico” voor de grondrechten en vrijheden van individuen worden vervolgd. Onder deze praktijken vallen:
- Subliminale of misleidende manipulatie
- Exploitatie van kwetsbaarheden van specifieke groepen
- Sociale scoringsystemen
- Massaal gezichtsherkenning in openbare ruimtes
- Emotie-analyse in werk- of onderwijssituaties
- Biometrische categorisering van personen
- Voorspellende systemen die crimineel gedrag anticiperen
Bedrijven die dergelijke technologieën gebruiken of ontwikkelen, moeten uiterst voorzichtig zijn om niet in overtreding te komen. Transparantie, traceerbaarheid van de data die worden gebruikt voor het trainen van modellen, en menselijke supervisie waar nodig zijn belangrijke vereisten.
Bovendien is het verplicht om gebruikers te informeren wanneer zij interactie hebben met een AI-systeem. Bedrijven moeten actief samenwerken met de Spaanse Autoriteit voor Toezicht op Kunstmatige Intelligentie (AESIA), die verantwoordelijk is voor het toezicht op de naleving van de verordening op nationaal niveau.
Weg naar een Veiliger Ontwikkeling
Hoewel de Europese verordening al was goedgekeurd, betekent de effectieve toepassing met sanctieregime een concrete tool voor de bevordering van een verantwoordelijke ontwikkeling en gebruik van kunstmatige intelligentie. In deze context is het essentieel dat organisaties zorgvuldig de modellen van algemeen gebruik die zij in hun diensten integreren, herzien en passende waarborgen implementeren die juridische risico’s minimaliseren.
De uitdaging ligt niet alleen in technische naleving, maar ook in het herwinnen van het vertrouwen van een samenleving die meer bescherming en transparantie eist in het gebruik van technologieën die steeds meer deel uitmaken van het dagelijks leven. De inwerkingtreding van het sanctieregime van de RIA is een beslissende stap in die richting.