Wie controleert de algoritmen bij de overheid?

De helft van de gemeenten maakt gebruik van algoritmen. Ministeries zelfs nog vaker. Maar liefst 63 procent gebruikt algoritmen, met name om risico’s in kaart te brengen. Maar wie controleert de algoritmen?

Risico’s

Het kan gaan om verschillende risico’s, zoals de kans op vroegtijdig schoolverlaten, de kans op het verzakken van funderingen of het risico dat er gefraudeerd wordt met uitkeringen. Naast gemeenten en de Rijksoverheid maken ook uitvoeringsorganisaties (48 procent) en waterschappen (40 procent) gebruik van algoritmen.

Geen controle

Maar vaak is er geen controle op de criteria die gebruikt worden om bepaalde risico’s in kaart te brengen, zo blijkt uit een onderzoek van het Centraal Bureau voor de Statistiek (CBS) onder 67 ministeries, gemeenten, waterschappen en uitvoeringsorganisaties. Welke rol spelen welke criteria? Wordt er extra gelet op bijvoorbeeld afkomst of sociaal economische positie? In principe kunnen de algoritmen gecontroleerd worden door rechters en toezichthouders, maar burgers staan buitenspel.

Duidelijke bewoording
Daarom, zo geven de respondenten in het onderzoek aan, is het nodig dat algoritmen het best uitgelegd kunnen worden in duidelijke bewoordingen en simpele voorbeelden, liefst met beeldmateriaal, zodat de inzichtelijkheid, transparantie, validiteit en betrouwbaarheid van de algoritmen door iedereen gecontroleerd kunnen worden. De overheid zou beleid moeten ontwikkelen om algoritmes toegankelijk te maken en te laten controleren door onafhankelijke partijen.

Grondrechten

In september dit jaar pleitte D66 in de Tweede Kamer al voor een algoritme-waakhond, die alle datasets van algoritmen van overheden en bedrijven zou moeten controleren, bijvoorbeeld om privacy-schendingen te voorkomen. Een maand eerder, in augustus 2018, brachten onderzoekers van de Universiteit Utrecht een rapport uit waarin ze waarschuwden voor de aantasting van grondrechten van burgers door de toenemende rol van algoritmen in diverse maatschappelijke domeinen.