Nissewaard stopt met algoritme, FNV blijft kritisch

De gemeente Nissewaard stop met het gebruik van een algoritme dat werd gebruikt om te bepalen bij welke gezinnen een verhoogde kans was op bijstandsfraude. De beslissing volgt op onderzoek van kennisinstituut TNO waaruit blijkt dat het algoritme mankementen vertoont. Vakbond FNV is blij met de beslissing, maar verwijt de gemeente dat ze te lang door is gegaan met het gebruik.

Onvoldoende niveau

Het algoritme is ‘niet voldoende toetsbaar’, concludeert TNO, omdat de resultaten niet reproduceerbaar blijken te zijn. ‘Daarnaast is de kwaliteit van de programmeercode niet op peil’ en ‘ontbreekt het aan aanvullende documentatie’ voor ontwikkelaars en technische gebruikers. Ook is het onvoldoende mogelijk te bepalen of het algoritme doeltreffend is. Samenvattend is het van ‘onvoldoende niveau’.

Dossiers kiezen

De gemeente, die TNO opdracht gaf tot het onderzoek, stopt dus met het gebruik. De bevindingen van TNO over reproduceerbaarheid en doeltreffendheid zijn volgens Nissewaard van belang ‘omdat de gemeente deze scores gebruikt voor het kiezen van de te onderzoeken dossiers door ambtenaren’. Nissewaard benadrukt dat het algoritme alleen is gebruikt voor voorwerk en dat het geen effect had op de uitkomsten van rechtmatigheidsonderzoeken.

Transparantie

De FNV blijft kritisch. Nadat de Haagse rechtbank begin 2020 het gebruik van SyRI verbood, ontstond discussie in Nissewaardse gemeenteraad over het door Totta Data Lab ontwikkelde systeem, maar ‘de beloofde transparantie over de data-analyses bleef echter uit’. De gemeente meent echter dat er geprobeerd is ‘zo veel mogelijk openheid’ te geven.

Rechtszaak

De FNV wilde een rechtszaak aanspannen en het heeft er volgens de vakbond ‘alle schijn van dat de grond onder de voeten van de gemeente te heet werd en dat ze zo probeert een rechtszaak te vermijden’.

'Proefkonijn'

Hoewel er kosten met het algoritme waren gemoeid, schrijft de gemeente, ‘is waardevolle ervaring opgedaan met een ontwikkeling in modern procesmanagement die nog lang zal doorgaan’. De FNV noemt het ‘echt schandalig dat de gemeente zo haar inwoners als proefkonijn heeft gebruikt met een systeem waarvan al lang duidelijk was dat het niet deugde.’

Verantwoord

Behalve de bevindingen waardoor TNO tot de conclusie komt dat het algoritme van onvoldoende niveau is, ziet het kennisinstituut wel dat Nissewaard en Totta Data Lab aandacht hebben besteed aan verantwoord gebruik. En het algoritme speelde een rol in de selectie van dossiers, maar had inderdaad geen verdere invloed op toezicht en handhaving: ‘De mens draagt en neemt vervolgens ook de verantwoordelijkheid voor mogelijke besluiten die uit het toezicht- en handhavingsproces voortvloeien.’