‘Technologie moet zelf mensenrechtenschendingen voorkomen’

De overheid is bij de inzet van kunstmatige intelligentie gebonden aan mensenrechten en wetgeving. Gemeenten zijn daarbij zelf verantwoordelijk voor de toetsing, antwoordt minister Bruins Slot (CDA) in antwoord op Kamervragen die werden gesteld naar aanleiding van het algoritmegebruik van Rotterdam. Nieuwe Europese wetgeving voor de toepassing van kunstmatige intelligentie moet ervoor zorgen dat de ontwikkelde systemen rekening houden met mensenrechten.

Eigen verantwoordelijkheid

Welke overheden gebruiken algoritmes en met welk doel, wilde Tweede Kamerlid Renske Leijten (SP) weten naar aanleiding van de algoritmes die Rotterdam gebruikt bij het opsporen van bijstandsfraude. Ze vroeg of de minister van Binnenlandse Zaken bereid is hiernaar onderzoek te doen. Gemeenten moeten zelf zorgen dat ze volgens de regels handelen, antwoordt Bruins Slot, en ze moeten zelf waar nodig onderzoek doen.

‘Gelet op hun eigen verantwoordelijkheid voor het naleven van de regelgeving is het de eigen verantwoordelijkheid van provincies en gemeenten om waar nodig onderzoek te laten doen, via de Provinciale Staten of Gedeputeerde Staten en gemeenteraad of B&W’, schrijft de minister, die vindt dat er al veel onderzoek wordt gedaan, ook door onafhankelijke instanties.

Rotterdam

Het is niet aan de minister om over het algoritmegebruik van Rotterdam te oordelen, vindt ze, maar ze vertelt wel wat Rotterdam aangaf: dat het algoritme efficiënt is, dat het onhaalbaar zou zijn om het grote aantal uitkeringsgerechtigden binnen een of twee jaar te onderzoeken, en dat door deze werkwijze bij een deel van de uitkeringsgerechtigden administratieve lasten worden voorkomen. Ook wordt het algoritme alleen gebruikt bij de selectie en voert een medewerker altijd het feitelijke onderzoek uit.

AI-verordening

Ze noemt ook staatssecretaris van Huffelen (Digitalisering, D66), die onlangs pleitte voor meer digitale regelgeving: ‘Belangrijk is dat wat in de offline wereld geldt, ook digitaal gaat gelden’.

Bruins Slot gaat uitgebreid in op aankomende Europese wetgeving over kunstmatige intelligentie: de Artificial Intelligence Act, een van de maatregelen waarmee Europa de digitale achterstand probeert in te halen. De technologie moet zelf mensenrechtenschendingen voorkomen, schrijft de minister. ‘In elke fase van de levenscyclus (ontwerpen, bouwen, testen, gebruiken en monitoren) van AI-systemen moet daarom aandacht zijn voor de mensenrechten. De AI-verordening biedt daartoe mogelijkheden.’ (De EU kwam onlangs ook met een voorstel voor de Data Act.)

Heel bijzondere gevallen

Leijten vroeg verder of de minister het begreep dat mensen met een uitkering zich automatisch verdacht voelen als ze lezen dat gemeenten de gesprekken standaard filmen. De rechtmatigheid van uitkeringen moet worden gecontroleerd, vindt Bruins Slot, maar die controle moet met passende instrumenten gebeuren. Het standaard filmen van gesprekken zal ‘alleen in heel bijzondere gevallen acceptabel zijn’.