Begin februari 2025 markeert een keerpunt in de geschiedenis van kunstmatige intelligentie (AI) in Europa. Op deze dag treedt een belangrijk deel van de EU-regelgeving voor Kunstmatige Intelligentie in werking, een baanbrekende regelgeving die probeert grenzen en waarborgen te stellen voor de ontwikkeling en het gebruik van deze technologie. Goedgekeurd in maart 2024, is deze regelgeving het meest ambitieuze juridische kader tot nu toe om AI te reguleren, met als doel innovatie in balans te brengen met de bescherming van fundamentele rechten.
Kunstmatige intelligentie is geen futuristisch concept meer, maar een alomtegenwoordige tool in sectoren zoals de gezondheidszorg, transport, onderwijs en rechtspraak. Echter, de snelle vooruitgang heeft ethische en juridische uitdagingen opgeworpen die een gecoördineerde reactie eisen. De EU heeft het voortouw genomen in deze materie, met een op risico gebaseerde benadering die AI-systemen in vier categorieën classificeert: onaanvaardbaar risico, hoog risico, beperkt risico en minimaal of geen risico.
Verboden en boetes: de inzet op veiligheid
Een van de meest opvallende maatregelen is de verboden voor AI-systemen die als onaanvaardbaar risico worden beschouwd. Dit omvat systemen die fundamentele rechten schenden, de privacy bedreigen of een significante bedreiging vormen voor de veiligheid van burgers. Bedrijven die met deze systemen werken, kunnen boetes krijgen tot 35 miljoen euro of 7% van hun jaarlijkse omzet, wat de ernst illustreert waarmee de EU dit onderwerp benadert.
De regelgeving stelt ook strikte verplichtingen aan hoge risico systemen, waaronder die welke worden gebruikt in kritieke sectoren zoals de gezondheidszorg, transport of rechtspraak. Deze systemen moeten voldoen aan normen voor transparantie, menselijke supervisie en cyberbeveiligingCyberbeveiligingsoplossingen zijn essentieel in het huidige tijdperk. Bovendien moeten leveranciers hun werking documenteren en hun gebruik registreren in een openbare database, wat zorgt voor grotere traceerbaarheid.
Transparantie en burgerrechten
Een van de pijlers van de regelgeving is de bescherming van burgers in hun interactie met AI. Wanneer een geautomatiseerde beslissing invloed heeft op een individu, heeft deze het recht om geïnformeerd te worden over het gebruik van AI en om uitleg te vragen over de basis van de beslissing. Deze transparante aanpak is bijzonder relevant in gevoelige gebieden zoals wervingsprocessen, leningen of openbare administratie.
Bovendien reguleert de regelgeving strikt op afstand biometische identificatiesystemen, waarbij gebruik slechts is toegestaan in zeer specifieke situaties en onder rigoureuze toezicht. Deze maatregel is bedoeld om het willekeurige gebruik van technologieën te voorkomen die de privacy zouden kunnen schenden of discriminatie zouden kunnen bevorderen.
Innovatie binnen een veilige kader
Om innovatie niet te belemmeren, introduceert de regelgeving de creatie van sandboxes, gecontroleerde ruimtes waar bedrijven hoge-risico AI-systemen in reële omstandigheden kunnen testen, maar onder strikte monitoring. Deze omgevingen stellen hen in staat om de impact van de technologie te evalueren en mogelijke risico’s te mitigeren voordat deze op de markt worden gebracht.
In Spanje zal de toezichthoudende rol voor de regelgeving liggen bij de Spaanse Autoriteit voor Toezicht op Kunstmatige Intelligentie, een cruciale instantie voor de naleving van de nieuwe regels.
Een wereldwijde precedent
Met de inwerkingtreding van deze maatregelen positioneert de EU zich als leider in de regulering van kunstmatige intelligentie, met een inzet voor een aanpak die innovatie en veiligheid combineert. Dit kader kan dienen als model voor andere regio’s ter wereld die AI op een verantwoorde manier willen reguleren. Het is echter nog onzeker hoe deze regelgeving de ontwikkeling van de sector zal beïnvloeden en of het de nodige balans kan bereiken tussen technologische vooruitgang en de bescherming van rechten.
In een wereld die steeds afhankelijker wordt van technologie, is de EU-regelgeving voor Kunstmatige Intelligentie niet alleen een reactie op de huidige uitdagingen, maar ook een inzet voor een toekomst waarin AI een hulpmiddel dient te zijn ten behoeve van de mensheid en niet een bedreiging voor haar fundamentele waarden.
bron: Nieuws Kunstmatige Intelligentie en DOUE-L-2024-81079 Regelgeving (EU) 2024/1689 van het Europees Parlement en de Raad