Het Europese bedrijfslandschap staat voor een aanzienlijke verandering met de inwerkingtreding van de Europese Verordening inzake Kunstmatige Intelligentie (RAI) in augustus 2024. Dit nieuwe regelgevingskader streeft naar de bevordering van verantwoorde ontwikkeling van AI in de Europese Unie door duidelijke richtlijnen en sancties vast te stellen voor degenen die niet aan de voorschriften voldoen.
Impact op de Zakelijke Sector
Het gebruik van Kunstmatige Intelligentie (AI) in Spanje heeft een belangrijke mijlpaal bereikt, met meer dan 24% van de bedrijven die al een vorm van AI-technologie gebruiken. Dit vertegenwoordigt ongeveer één op de vier bedrijven, volgens het “III Rapport over Digitale Transformatie” van InfoJobs.
Onder de meest populaire tools bevindt zich ChatGPT, die sinds de lancering in november 2022 200 miljoen actieve gebruikers wekelijks op wereldwijd niveau heeft weten te trekken. In februari 2024 registreerde dit platform meer dan 1,5 miljoen bezoekers, volgens de gegevens gepubliceerd door de financiële dienstverlener UBS.
De Belangrijkste Getroffenen door de RAI
De AI-verordening onderscheidt verschillende categorieën van operatoren, waaronder leveranciers, vertegenwoordigers, distributeurs, importeurs, latere leveranciers en verantwoordelijken voor implementatie. Echter, de belangrijkste getroffenen zullen de aanbieders van hoog-risico AI-systemen zijn, die moeten voldoen aan een meer complexe set van verplichtingen.
Natalia Patiño, juridisch TIC-consultant bij Secure&IT, legt uit: “We verwijzen naar AI-systemen die bedoeld zijn als componenten van veiligheid of die op zichzelf veiligheidssystemen zijn. Enkele voorbeelden zijn: motorvoertuigen; medische producten; civiele vliegtuigen; speelgoed; plezierboten en jetski’s; liften…”
Sancties voor Niet-Naleving
Organisaties die zich niet aanpassen aan de regelgeving binnen de gestelde termijnen, kunnen te maken krijgen met ernstige sancties. Patiño waarschuwt: “De boetes kunnen oplopen tot 35 miljoen euro of 7% van de totale jaaromzet van het voorgaande jaar, afhankelijk van wat hoger is.”
Directe Gevolgen
De implementatie van de RAI heeft al gevolgen gehad voor sommige technologiebedrijven. Apple heeft bijvoorbeeld aangekondigd dat haar AI, bekend als Apple Intelligence, op korte termijn niet beschikbaar zal zijn in Europa vanwege het beleid van Brussel met betrekking tot AI.
Risico’s Verbonden aan het Gebruik van AI
Ondanks de nieuwe regelgeving blijft het gebruik van AI bepaalde risico’s inhouden:
- Onjuist gebruik van de informatie die in de “prompts” wordt verstrekt.
- Mogelijke beveiligingsincidenten die gevoelige gegevens in gevaar brengen.
- Genereren van onjuiste resultaten of “hallucinaties” door gebrek aan continue menselijk toezicht.
Consultant Patiño benadrukt het belang van het correct onderscheiden tussen wat wel en niet AI is: “Het probleem is dat het concept ‘Kunstmatige Intelligentie’ in sommige gevallen alleen als een marketingstrategie wordt gebruikt. Dit willekeurige gebruik kan leiden tot een incorrecte toepassing van de RAI, waardoor er verwarring ontstaat over welke vereisten en wettelijke verplichtingen daadwerkelijk van toepassing zijn in elk geval.”
Ter conclusie, terwijl AI blijft zorgen voor transformatie binnen het zakelijke landschap, zoekt de nieuwe Europese Verordening naar een balans tussen innovatie en verantwoordelijkheid, waarbij significante sancties worden opgelegd aan degenen die niet voldoen aan de nieuwe regels.