Rvs: Overheid moet zich niet zomaar verlaten op algoritmes

Overheden moeten bij het gebruik van nieuwe technologische mogelijkheden altijd het algemeen belang dienen. Daarbij moeten ze ook de grenzen van de beperking van grondrechten respecteren. Zo niet, dan verandert de overheid in een 'algocratie', een bestuur gebaseerd op algoritmes en data, waarschuwt de Raad van State in zijn donderdag verschenen jaarverslag.

Autonomie

Gemeenten zetten meters, camera's en sensoren in om bijvoorbeeld luchtvervuiling te meten, gewelddadig gedrag op straat te signaleren en drukte in uitgaansgebieden te monitoren, schrijft het hoogste adviesorgaan van de regering. Soms dient dit echter ook ‘het sturen van bepaald gedrag of het voorspellen van risico's’. ‘Niet alleen kunnen daardoor burgers in de knel komen, zoals op het terrein van uitkeringen en toeslagen inmiddels meermalen is gebleken, maar ook verdwijnt de (morele) autonomie van de mens naar de achtergrond.’ Dat is uiteindelijk ‘funest voor zowel de menselijke waardigheid als het democratisch proces’, zegt de Raad van State.

Grondrechten

De overheid moet bij besluiten om technologie in te zetten altijd uitleggen en verantwoorden welke grondrechtelijke belangen in het geding zijn, op welke manier wordt verzekerd dat mensen autonoom genoeg blijven en verzekeren dat de grenzen van de grondrechtenbeperking in acht worden genomen. ‘Dat draagt bij aan betrouwbaar en rechtvaardig bestuur.’