'Algoritmes kunnen grondrechten flink aantasten'

Big Data, Internet of Things en kunstmatige intelligentie kunnen de grondrechten van burgers flink aantasten. Dat schrijven onderzoekers van Universiteit Utrecht in het rapport ‘Algoritmes en grondrechten’, dat in opdracht van het Ministerie van Binnenlandse Zaken werd opgesteld.

Samenspel van verschillende grondrechten

De onderzoekers hebben diverse ‘knelpunten’ geïdentificeerd voor de grondrechten van burgers. Er zijn al eerder rapporten gepubliceerd over nadelige effecten van digitalisering door gebruik van data, internet en kunstmatige intelligentie voor grondrechten. Deze rapporteren waren echter niet specifiek op de rechten in Nederland gericht. De onderzoekers stellen dat het lastig is om te bepalen welke grondrechten het sterkst worden aangetast door nieuwe technologie. Er is sprake van een ‘samenspel’ tussen grondrechten dat door de toenemende rol van algoritmes in diverse maatschappelijke domeinen wordt beïnvloed. Het samenspel tussen grondrechten is er nu ook al: een recht als godsdienstvrijheid hangt bijvoorbeeld nauw samen met privacy. Het Kiesrecht heeft ongeveer dezelfde verhouding met de vrijheid van meningsuiting en het recht op informatie. Wanneer een grondrecht wordt beïnvloed, heeft dit vaak gevolgen voor andere grondrechten.    

Privacy en gelijke behandeling
Nieuwe technologieën hebben op alle grondrechten invloed. ‘Hooguit kunnen sommige van de benoemde knelpunten vanuit grondrechtelijk oogpunt worden beschouwd als minder urgent. Dat geldt bijvoorbeeld voor de bezwaren gerelateerd aan de-individualisering en aantasting van de individuele autonomie’, zo schrijven de onderzoekers. Ze verwijzen onder meer naar 'filterbubbels' en inperking van de mogelijkheid om autonoom te denken en te handelen door informatie die door algoritmen wordt geselecteerd. Meer urgente knelpunten zijn vooral te vinden rondom privacyrecht, als gevolg van surveillance met behulp van algoritme-gedreven technologie. Urgentie rondom privacyvraagstukken is er altijd geweest, ook toen telefonie werd geïntroduceerd en het mogelijk werd om iemand af te tappen, schrijven de onderzoekers. Maar dit is anders voor de gevonden knelpunten bij gelijkebehandelingsrechten en procedurele rechten, stellen de onderzoekers. Het gaat om besluiten nemen met behulp van slimme algoritmes, waarbij deze ondoorzichtig en potentieel niet-neutraal zijn. Er kunnen door besluiten nemen op basis van algoritmes problemen komen met het recht op gelijke behandeling. Wanneer algoritme-gedreven technologieën worden ingezet is er risico op ongerechtvaardigde of ongelijke behandeling. De effecten hiervan komen vervolgens weer terug bij andere grondrechten.

Neutrale en transparante algoritmes
De vraag naar aanleiding van de knelpunten is volgens de onderzoekers hoe bijgedragen kan worden aan het vergroten van de neutraliteit en transparantie van algoritmes. Ook moet er een antwoord komen op de vraag hoe effectiviteit van het recht op gelijke behandeling en procedurele rechten kan worden gewaarborgd als er met biases en ondoorzichtige algoritmes wordt gewerkt. Er is een combinatie van technologische en juridische oplossingen nodig, vinden de onderzoekers.