‘Keuring algoritmen door gemeente niet wenselijk’

VVD-kamerleden Jan Middendorp en Albert van den Bosch zijn niet te spreken over het Amsterdamse voornemen om algoritmen die de gemeente en andere instellingen in de stad gebruiken door te lichten op discriminerende of anderszins ongewenste resultaten. Middendorp en Van den Bosch hebben daarover inmiddels vragen gesteld aan staatssecretaris Raymond Knops (Binnenlandse Zaken, CDA).

Voorwaarde voor bedrijfsvergunning

Onlangs maakte Amsterdamse chief technology officer Ger Baron bekend dat hij accountants- en adviesbureau KPMG heeft ingeschakeld om elke app en website met betrekking tot de hoofdstad te laten onderzoeken. De gemeente wil op die manier paal en perk stellen aan ongewenste effecten van kunstmatige intelligentie, waaronder discriminatie. In een interview met het Financieele Dagblad opperde Baron dat een algoritme-screening in de toekomst een voorwaarde kan worden voor een Amsterdamse bedrijfsvergunning, hoewel hij nog niet kon zeggen hoe apps en websites van private partijen worden doorgelicht.

Grenzen tussen taken

Middendorp en Van den Bosch noemen het Amsterdamse poging om het gebruik van algoritmen te reguleren en bedrijven eventueel te weren ‘niet wenselijk’ en willen van Knops weten wat hij ervan vindt dat de gemeente ook niet-gemeentelijke instellingen beoordeelt. Ook vragen zij Knops naar zijn standpunt over gemeenten die eigen actieplannen voor de digitale overheid ontwikkelen, en vragen zij of het ministerie van Binnenlandse Zaken hierin actief grenzen trekt tussen de taken van gemeenten, provincies en rijksoverheid.

Grondslag

Knops moet de VVD’ers ook aangeven of er bij zijn kennis meer gemeenten zijn met plannen als de Amsterdamse. Zij willen ook weten of er voor dergelijke plannen een wettelijke grondslag bestaat en of de taak om algoritmen te controleren bij de gemeenten ligt, als er een grondslag voor is. Tot slot vragen Middendorp en Van den Bosch de staatssecretaris om uiteen te zetten hoe de rijksoverheid gemeenten ondersteunt bij de omgang met algoritmen.