Arjen Schram, 21 april 2023

Regels over artificiële intelligentie: de Europese Unie werkt eraan!

Stephen Hawking voorspelde in 2014 dat artificiële intelligentie de mensheid in de toekomst wel eens zou kunnen vernietigen… Hoewel dat wellicht nog steeds als sciencefiction klinkt, neemt de angst voor de gevolgen van  artificiële intelligentie momenteel wel behoorlijk toe. Dat heeft natuurlijk alles te maken met de snelle ontwikkeling van intelligente systemen – waarvan vooral Chat GPT de laatste tijd in de belangstelling stond.

Het einde van de mensheid is misschien nog wat ver gedacht, maar we zagen in de toeslagenaffaire bijvoorbeeld al wel dat AI-systemen bedoeld of onbedoeld tot discriminerende uitkomsten kunnen leiden. Onder andere op basis van nationaliteit, gezinssamenstelling en het salaris besliste een algoritme van de Belastingdienst wie handmatig werd gecontroleerd. De Autoriteit Persoonsgegevens kondigde in januari aan om extra toezicht te gaan houden op “levensgevaarlijke” algoritmes.

En recentelijk pleitten 1100 techprominenten in een open brief zelfs voor een tijdelijke rem op de  ontwikkeling van artificiële intelligentie. We zouden met zijn allen minstens een half jaar moeten nemen om na te denken over hoe we de ontwikkeling van artificiële intelligentie met zorg plannen en beheersen. Op dit moment zouden AI-laboratoria in een wedloop verwikkeld zijn geraakt waarin steeds krachtigere digitale geesten worden ontwikkeld, en zelfs hun makers zouden die geesten niet meer begrijpen, kunnen voorspellen of betrouwbaar kunnen controleren. Geavanceerde artificiële intelligentie zou volgens de ondertekenaars van de brief een ingrijpende verandering kunnen betekenen in de geschiedenis van het leven op aarde. Elon Musk, één van de oprichters van OpenAI en medeondertekenaar van de brief, kondigde – enigszins verrassend –  afgelopen week juist aan te werken aan een nieuw algoritme: Truth GPT; een alternatief voor de algoritmes van Microsoft en Google.

Verordening artificiële intelligentie

Ook de wetgever heeft de afgelopen jaren niet stilgezeten, hoewel daar aanzienlijk minder aandacht voor is geweest. De Europese Unie werkt al sinds 2017 aan een nieuwe verordening voor de regulering van artificiële intelligentie, en het zal nog wel een tijd duren voordat die daadwerkelijk in werking treedt.

De Europese Commissie overweegt in het conceptvoorstel dat artificiële intelligentie kan helpen om gunstige sociale en ecologische resultaten te behalen, en belangrijke concurrentievoordelen kan opleveren voor het bedrijfsleven en de Europese economie. Tegelijkertijd signaleert ook de Europese Commissie dat artificiële intelligentie nieuwe risico’s of negatieve gevolgen voor het individu of de samenleving met zich meebrengt. De nieuwe verordening moet gezien de snelheid van de technologische veranderingen en de mogelijke uitdagingen, resulteren in een evenwichtige aanpak op het gebied van artificiële intelligentie.

Belangrijkste doeleinden

Enerzijds heeft de verordening als doel om te waarborgen dat AI-toepassingen veilig zijn en voldoen aan de waarden van de Europese Unie en anderzijds reguleert de verordening AI-toepassingen op economisch vlak. Samengevat moet de nieuwe verordening:

• waarborgen dat AI-systemen binnen de Europese Unie veilig zijn, voldoen aan bestaande wetgeving en grondrechten en in lijn zijn met de waarden van de Europese Unie;
• doeltreffende handhaving introduceren voor het waarborgen van grondrechten;
• betere veiligheidsvoorschriften introduceren voor AI-systemen; en
• een eengemaakte markt introduceren voor veilige en betrouwbare AI-toepassingen en investeringen en innovatie in AI-systemen vergemakkelijken.

Verboden en risicovolle AI-systemen

De conceptverordening voegt de daad bij het woord van de overwegingen en bevat in artikel 5 direct een lange opsomming van verboden AI-toepassingen.  Zo zijn bijvoorbeeld per definitie verboden AI-toepassingen die het gedrag van personen verstoren zonder dat ze zich daarvan bewust zijn, of toepassingen die misbruik maken van de kwetsbaarheid van specifieke groepen – bijvoorbeeld met een handicap – waardoor lichamelijke of geestelijke schade valt te verwachten.

Ook verbiedt artikel 5 overheidsinstanties om gebruik te maken van AI-toepassingen voor de beoordeling of classificatie van de betrouwbaarheid van personen die is gebaseerd op hun sociaal gedrag of persoonlijkheidskenmerken, wanneer de score die daaruit volgt resulteert in een ongunstige behandeling van die personen en die niet in verhouding staat tot hun sociaal gedrag. Wellicht klinkt een dergelijk systeem als iets dat alleen in tv-series als Black Mirror kan bestaan, maar in China wordt momenteel hard gewerkt aan een sociaalkredietsysteem. Een lagere sociale status in dat systeem kan er bijvoorbeeld toe leiden dat het moeilijker wordt om een hypotheek te verkrijgen. En in 2019 werd zelfs bekend dat miljoenen Chinezen met een lagere sociale score werden belet om vlieg- en treintickets te kopen. Wat ons betreft een zeer welkom verbod in de conceptverordening.

De verordening bevat daarnaast een definitie voor risicovolle AI-systemen. Daarvan is bijvoorbeeld sprake wanneer systemen risico’s met zich meebrengen voor de fysieke of mentale gezondheid of wanneer systemen risico’s met zich meebrengen voor de fundamentele rechten. Dergelijke systemen moeten voldoen aan onder meer verschillende technische voorwaarden. Zo moet er bijvoorbeeld een “risicobeheersysteem” worden ingebouwd dat doorlopend bepaalde risico’s in kaart brengt en analyseert.

Wordt vervolgd

Samengevat volgen de ontwikkelingen op het gebied van artificiële intelligentie elkaar snel op en zijn de zorgen over de potentiële negatieve maatschappelijke gevolgen van artificiële intelligentie groot. Tegelijkertijd is er binnen de Europese Unie serieuze Europese wetgeving in de maak om artificiële intelligentie te reguleren om de fundamentele rechten te waarborgen. Wij volgen deze ontwikkelingen met veel belangstelling en zullen daar de komende tijd zonder twijfel vaker over bloggen.

Vragen?