‘Deadbots en regulatie: een essentieel ethisch en juridisch debat’

De nieuwe Europese wettelijke kader voor kunstmatige intelligentie (AI), de EU AI Act, is op 1 augustus in werking getreden met als doel schendingen van rechten die kunnen optreden bij het gebruik van deze technologie, te voorkomen. De wetgeving classificeert AI op basis van het risiconiveau dat het kan hebben voor individuen en de maatschappij, en verbiedt technologieën die een „onacceptabel risico” vormen, zoals bijvoorbeeld technologieën die manipuleren en de kwetsbaarheid van mensen uitbuiten.

Een technologie die in deze categorie zou kunnen vallen zijn de zogenaamde deadbots, die sommige bedrijven al ontwikkelen om binnenkort op de markt te brengen. Het gaat om chatbots die zijn ontworpen vanuit de digitale voetafdruk van een overleden persoon (WhatsApp-berichten, social media posts, e-mails, etc.) en die in staat zijn om gesprekken te voeren met de familie en vrienden van de overledene, waarbij ze diens persoonlijkheid nabootsen. Hoewel het sciencefiction lijkt, is het dat niet, en diensten van dit soort komen steeds dichter bij wat we ons kunnen voorstellen.

Dr. in de psychologie Belén Jiménez, docent aan de faculteit Psychologie en Onderwijswetenschappen en onderzoeker bij de onderzoeksgroep CareNet, bij het IN3 van de Universitat Oberta de Catalunya (UOC), is gespecialiseerd in technologische bemiddeling bij rouw, en een van haar onderzoeksgebieden zijn deadbots, waarover ze verschillende studies heeft gepubliceerd.

Een complex debat zonder duidelijke antwoorden

“Hoewel deadbots nog niet op de markt zijn gebracht, is het noodzakelijk na te denken over de bio-ethische aspecten van deze technologie. Het is mogelijk dat het gebruik ervan binnenkort genormaliseerd wordt, zoals gebeurd is met andere toepassingen die in eerste instantie maatschappelijk verrassend waren, maar waarvan het gebruik nu wijdverbreid is, zoals bijvoorbeeld dating-apps. Er komen steeds meer bedrijven op het gebied van de zogenaamde digital afterlife industry, en de technologie wordt verbeterd,” legt Jiménez uit. De psycholoog vindt het essentieel „te onderzoeken hoe deadbots de rouw bemiddelen en deze kunnen transformeren. Het is een gebied waar nog bijna geen wetenschappelijke studies over zijn en er zijn geen duidelijke antwoorden, want het gebruik en de effecten ervan hangen af van verschillende factoren, waaronder de manier waarop deze technologieën zijn ontworpen”.

Onder andere aspecten bepaalt de nieuwe Europese wetgeving dat chatbots de gebruiker moeten informeren dat ze communiceren met een computerprogramma en niet met een persoon. Hoewel deze technologie geclassificeerd wordt als „beperkt risico”, moeten de implicaties van deze programma’s in gevoelige contexten zoals gezondheid – wat het geval zou zijn bij deadbots – grondig worden geanalyseerd.

In de onderzoeken uitgevoerd door Belén Jiménez, die ook lid is van de onderzoeksgroep CERPOP aan de Universiteit van Toulouse, blijkt dat rouwenden een ambivalente houding hebben ten opzichte van deze nieuwe technologie: de wens om de affectieve banden met hun dierbaren te onderhouden, vermengt zich met de onrust die wordt veroorzaakt door interactie met een programma gebaseerd op de digitale voetafdruk van de overledene.

Deadbots maken gebruik van de zogenaamde „continuerende banden” tussen de rouwenden en de overledene, een veelgebruikte term in het veld van rouwpsychologie. De onderzoeker van de UOC verzekert dat „deze technologieën profiteren van de menselijke behoefte aan het leggen van emotionele banden”. In werkelijkheid zou het kunnen neerkomen op een technologische en geavanceerde versie van het imaginair praten met onze dierbare voor hun graf of het in stand houden van hun herinnering door middel van foto’s en video’s. „Deze behoefte om banden te behouden hoeft niet pathologisch te zijn”, legt Jiménez uit, „en is voor veel mensen normaal. Toch moeten er bij het gebruik van deadbots bepaalde voorzorgsmaatregelen worden genomen, en is het essentieel om het gebruik ervan te reguleren, aangezien de winstbelangen van de bedrijven die ze op de markt brengen mogelijk niet overeenkomen met het potentiële therapeutische gebruik dat deze technologie kan hebben”.

Bij gebrek aan studies wijst Jiménez erop dat de psychologische effecten van deze technologieën bepaald zullen worden door de gebruiker zelf, door de relatie die ze hadden met de overledene en door de relatie die ze aangaan met de chatbot. „Een van de gevaren is dat er negatieve effecten kunnen ontstaan, zoals het creëren van een afhankelijkheidsrelatie en zelfs het lijden veroorzaakt door een tweede verlies als de deadbot verdwijnt – bijvoorbeeld door technische problemen –”.

Regulering van de digital afterlife industry

Onze aspiratie naar onsterfelijkheid en de technologische vooruitgang geven vleugels aan de digital afterlife industry, een sector die de herinnering aan overleden personen digitaliseert met als doel hun herinnering en zelfs hun digitale activiteit voort te zetten. Dit brengt heel wat ethische en sociale implicaties met zich mee. Bedrijven streven naar commerciële en economische doeleinden die tegenstrijdig kunnen zijn met de potentiële therapeutische doelstellingen van deze tools. Strategieën zoals deadbots die notificaties en andere acties sturen om de rouwende “verslaafd” te houden, kunnen ethisch betwistbaar zijn, aldus Jiménez.

„We staan voor een nieuwe technologische ontwikkeling gebaseerd op kunstmatige intelligentie die hoge risico’s met zich meebrengt en die gereguleerd moet worden om de mogelijke negatieve effecten ervan te voorzien, terwijl we ook rekening moeten houden met de ethische dimensie”, stelt de onderzoeker. „De nieuwe Europese regelgeving is gericht op het bevorderen van transparantie van deze technologieën, wat fundamenteel is in zulke gevoelige aspecten zoals rouw. Bovendien zullen de bedrijven die deze diensten ontwikkelen moeten voldoen aan strikte normen en investeren in programma’s voor audit, transparantie en documentatie”, legt ze uit. De AI Act voorziet boetes tot 30 miljoen euro of 6% van de jaaromzet van een bedrijf als het niet aan deze regelgeving voldoet.

Bij gebrek aan specifieke regelgeving voor deadbots, stelt Jiménez voor dat de regelgeving „in het bijzonder waakt over het respect en de waardigheid van de overleden persoon, naast het bevorderen van het psychologisch welzijn van de gebruiker, vooral als deze in rouw is”.

Bron: UOC – Belén Jiménez