Amsterdam heeft te weinig zicht op algoritmen

In de handleiding die de gemeente Amsterdam heeft opgesteld om meer grip te krijgen op algoritmen, is nog veel ruimte voor verbetering. Dat concludeert de Rekenkamer Metropool Amsterdam (RMA), die onderzoek deed naar de handleiding die de gemeente vorig jaar opstelde om de algoritmen die de gemeente gebruikt transparanter en inzichtelijker te maken.

Veel tekortkomingen

Amsterdam gebruikt veel algoritmen, bijvoorbeeld voor het scannen van nummerborden voor parkeercontroles of om de WOZ-waarde van woningen te berekenen. De Rekenkamer concludeert meerdere tekortkomingen. Maatregelen die vooroordelen in een algoritme moeten minimaliseren (bias) worden bijvoorbeeld weinig gebruikt. ‘Zo heeft de gemeente nog maar bij één algoritme goed onderzocht of het algoritme eerlijk is. Daarnaast worden moeilijke beslissingen over de eerlijkheid van algoritmen nog niet genomen door het bestuur van de gemeente, terwijl dit politieke keuzes zijn.’

Wettelijke controles onvoldoende

Ook worden de wettelijke controles op algoritmen om de privacy van burgers te beschermen, nog onvoldoende uitgevoerd. ‘Burgers zijn nog weinig persoonlijk geïnformeerd over wat de gemeente met hun gegevens doet. En de gemeente legt nog niet goed uit hoe algoritmen zijn gebruikt bij het nemen van besluiten over burgers’, aldus de RMA. Verder is het algoritmeregister waarop alle gemeentelijke algoritmen in zouden moeten staan, niet volledig. ‘Zo staan in september 2023 nog maar 29 algoritmen op de website, terwijl er mogelijk honderden algoritmen zijn. Dat komt doordat de gemeente zelf niet goed weet welke algoritmen ze allemaal gebruikt. Hierdoor krijgen raadsleden en burgers te weinig informatie.’

Burger actiever informeren

De Rekenkamer adviseert de gemeente de kwaliteit en samenhang van de handleiding te verbeteren. ‘Bijvoorbeeld door te kiezen voor één definitie van het woord 'algoritme' zodat alle ambtenaren weten wanneer ze de handleiding voor algoritmen moeten gebruiken en weten hoe ze met risico's moeten omgaan.’ Ook moet er een hulpmiddel komen voor ambtenaren, zodat zij ‘kunnen nagaan of het ontwikkelen van een algoritme wel haalbaar is, voordat er veel tijd en geld in wordt gestopt’. Qua transparantie adviseert de RMA om de gemeenteraad en burgers actiever te informeren over hoe en welke algoritmen worden gebruikt.